1
00:00:03,003 --> 00:00:05,405
(grande fanfare orchestrale
jouer)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(les oiseaux gazouillent et crient)
4
00:00:49,216 --> 00:00:51,519
-(barbotage)
-(trille)
5
00:00:55,657 --> 00:00:58,058
(Magnétoscope cliquetant et vrombissant)
6
00:01:01,194 --> 00:01:02,630
(clic du projecteur)
7
00:01:05,332 --> 00:01:09,637
Maintenant, les ordinateurs actuels
sont des abrutis complets,
8
00:01:09,671 --> 00:01:12,507
mais ce ne sera pas vrai
dans une autre génération.
9
00:01:12,540 --> 00:01:15,342
Ils commenceront à réfléchir,
et finalement ils le feront
10
00:01:15,375 --> 00:01:17,845
complètement dépassé
leurs créateurs.
11
00:01:17,879 --> 00:01:20,582
Est-ce déprimant ?
Je ne vois pas pourquoi cela devrait être le cas.
12
00:01:20,615 --> 00:01:25,352
Je soupçonne que le bio
ou évolution biologique
13
00:01:25,385 --> 00:01:27,220
est sur le point de toucher à sa fin.
14
00:01:28,322 --> 00:01:29,791
(Daniel rit)
15
00:01:29,824 --> 00:01:31,224
CAROLINE : Tu ne veux pas de moi
être le narrateur.
16
00:01:31,258 --> 00:01:32,694
Je n'ai pas une bonne voix.
17
00:01:32,727 --> 00:01:34,461
DANIEL : Vous avez une superbe voix.
Faites-le.
18
00:01:34,494 --> 00:01:36,598
C'est juste un--
nous sommes juste en train de l'essayer.
19
00:01:36,631 --> 00:01:38,432
CAROLINE :
Est-ce que je suis payé pour cette merde ?
20
00:01:38,465 --> 00:01:40,768
DANIEL (riant) : Eh bien,
nous verrons si vous réussissez.
21
00:01:40,802 --> 00:01:42,202
(Caroline en riant)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(le chien aboie)
23
00:01:46,908 --> 00:01:48,576
CAROLINE :
Je dois appeler mes parents.
24
00:01:48,610 --> 00:01:49,309
(le moteur démarre)
25
00:01:49,343 --> 00:01:51,478
Parfois, nous nous précipitons dans les choses
26
00:01:51,512 --> 00:01:53,347
sans y réfléchir.
27
00:01:53,380 --> 00:01:54,916
DANIEL : Ouais, peux-tu dire...
tu veux tirer ? C'est...
28
00:01:54,949 --> 00:01:57,752
CAROLINE : Comme quand Daniel
et Caroline se sont mariées
29
00:01:57,785 --> 00:02:00,755
151 jours après leur rencontre.
30
00:02:00,788 --> 00:02:02,523
Rembobinons.
31
00:02:03,691 --> 00:02:05,325
(applaudissements)
32
00:02:05,359 --> 00:02:07,562
Avez-vous pensé à
acheter un ordinateur personnel ?
33
00:02:07,595 --> 00:02:09,631
CAROLINE :
En 1993, à la naissance de Daniel,
34
00:02:09,664 --> 00:02:12,533
ses parents n'en avaient même pas
un ordinateur dans la maison.
35
00:02:12,567 --> 00:02:14,334
Mais il se souvient
quand ils en ont finalement eu un.
36
00:02:14,368 --> 00:02:16,269
Ce qu'est un ordinateur pour moi, c'est
37
00:02:16,303 --> 00:02:18,873
l'équivalent d'un vélo
pour notre esprit.
38
00:02:18,906 --> 00:02:20,608
Bonjour.
39
00:02:20,642 --> 00:02:22,777
CAROLINE : Son ordinateur l'a aidé
libérez sa créativité.
40
00:02:22,810 --> 00:02:24,411
DANIEL :
Rouler. Aller.
41
00:02:24,444 --> 00:02:27,247
CAROLINE : Il a utilisé
l'iMac de son père pour éditer des vidéos.
42
00:02:27,280 --> 00:02:28,650
Ouais !
43
00:02:28,683 --> 00:02:30,618
CAROLINE : Et même faire
petites animations.
44
00:02:30,652 --> 00:02:32,419
(crissement des pneus, crash)
45
00:02:32,452 --> 00:02:35,690
En 1998, lorsque Caroline était
une petite fille...
46
00:02:35,723 --> 00:02:37,290
Salut, maman.
47
00:02:37,324 --> 00:02:38,593
...seuls les nerds le savaient
ce qu'était Internet.
48
00:02:38,626 --> 00:02:40,360
Et qu'en est-il
ce truc d'Internet ?
49
00:02:40,394 --> 00:02:41,696
-Est-ce que tu sais quelque chose
à propos de ça ? -Bien sûr.
50
00:02:41,729 --> 00:02:43,330
-(rires du public)
-CAROLINE : Mais bientôt,
51
00:02:43,363 --> 00:02:45,399
-tout le monde était sur le...
-...Internet.
52
00:02:45,432 --> 00:02:47,467
... et les ordinateurs étaient
battre des humains aux échecs.
53
00:02:47,502 --> 00:02:50,470
ANNONCEUR : Deep Blue...
Kasparov a démissionné !
54
00:02:50,505 --> 00:02:52,874
CAROLINE : Et à ce moment-là
Caroline est allée à l'université,
55
00:02:52,907 --> 00:02:55,543
les ordinateurs étaient
dans la poche de tout le monde.
56
00:02:55,576 --> 00:02:58,713
Maintenant, Daniel pourrait faire des films
avec son téléphone.
57
00:02:58,746 --> 00:03:02,215
Il a grandi pour devenir un artiste
et un cinéaste...
58
00:03:02,249 --> 00:03:04,418
-Bonne nuit.
-...et Caroline aussi.
59
00:03:04,451 --> 00:03:06,286
Couper. Passons à un gros plan.
C'était parfait.
60
00:03:06,319 --> 00:03:07,822
À cette époque, les ordinateurs étaient
connecter les gens
61
00:03:07,855 --> 00:03:09,456
et changer le monde de diverses manières
62
00:03:09,489 --> 00:03:10,925
que nous n'avons jamais
j'aurais pu imaginer.
63
00:03:10,958 --> 00:03:12,694
Tout l'argent récolté par
le défi du seau à glace...
64
00:03:12,727 --> 00:03:14,796
CAROLINE :
Certains d'entre eux étaient bons.
65
00:03:14,829 --> 00:03:15,963
(haletant)
66
00:03:15,997 --> 00:03:17,565
Certains ne sont pas très bons.
67
00:03:17,598 --> 00:03:19,701
Anxiété, automutilation, suicide...
68
00:03:19,734 --> 00:03:21,602
Mais c'est clair maintenant
que nous n'en avons pas fait assez
69
00:03:21,636 --> 00:03:24,839
pour empêcher ces outils de
être également utilisé pour nuire.
70
00:03:24,872 --> 00:03:26,741
CAROLINE : Et comme le monde
devenu de plus en plus concentré
71
00:03:26,774 --> 00:03:28,543
-sur leurs ordinateurs,
-(le téléphone sonne)
72
00:03:28,576 --> 00:03:31,211
Daniel s'est concentré sur ses œuvres.
73
00:03:32,312 --> 00:03:36,249
Où qu'il aille,
il avait toujours un carnet de croquis,
74
00:03:36,283 --> 00:03:38,720
y compris la nuit
il a rencontré Caroline.
75
00:03:38,753 --> 00:03:41,923
Il a fait un tableau terrible
d'elle, et 20 minutes plus tard,
76
00:03:41,956 --> 00:03:44,592
il a hardiment prononcé
ils allaient se marier,
77
00:03:44,625 --> 00:03:47,862
ce qu'ils ont fait, comme vous le savez,
151 jours plus tard.
78
00:03:47,895 --> 00:03:50,464
FEMME : ...maintenant, prononcez-vous
mari et femme.
79
00:03:50,497 --> 00:03:51,933
CAROLINE :
Ils ont emménagé dans une jolie maison...
80
00:03:51,966 --> 00:03:53,433
-DANIEL : Orignal, hé ! Venez ici!
-...et j'ai un chien
81
00:03:53,467 --> 00:03:54,936
aussi stupide que Daniel.
82
00:03:54,969 --> 00:03:57,872
Pendant ce temps, les ordinateurs étaient
écrire des essais entiers
83
00:03:57,905 --> 00:03:59,707
basé sur des questions simples telles que
84
00:03:59,741 --> 00:04:02,777
"À quel point serait-il difficile de construire
une cabane dans mon jardin ?"
85
00:04:03,443 --> 00:04:06,514
Et donc Daniel a construit une cabane
dans son jardin.
86
00:04:07,380 --> 00:04:10,317
Mais juste au moment où il s'asseyait pour commencer
travaille sur son prochain film,
87
00:04:10,350 --> 00:04:14,488
il a appris que les ordinateurs
pourrait désormais écrire des scénarios.
88
00:04:15,422 --> 00:04:16,891
Je veux dire, ils étaient mauvais,
89
00:04:16,924 --> 00:04:19,326
mais ils allaient mieux
très vite.
90
00:04:19,359 --> 00:04:21,929
Ils pourraient créer de nouvelles images
et des vidéos à partir de zéro,
91
00:04:21,963 --> 00:04:25,032
et certains d'entre eux
pourrait même réussir l'examen du barreau.
92
00:04:25,066 --> 00:04:29,402
Pas seulement passer la barre mais
être dans les dix premiers centiles.
93
00:04:29,436 --> 00:04:31,038
CAROLINE :
C'était déroutant.
94
00:04:31,072 --> 00:04:32,607
(soupir)
95
00:04:32,640 --> 00:04:35,543
Daniel voulait juste
un vélo pour son esprit,
96
00:04:35,576 --> 00:04:39,080
mais les ordinateurs étaient devenus
une fusée autonome.
97
00:04:39,113 --> 00:04:40,648
(soufflé)
98
00:04:40,681 --> 00:04:42,517
("Nous avons le contrôle"
par Neil Young jouant)
99
00:04:42,550 --> 00:04:45,385
Pionniers dans le domaine
de l'intelligence artificielle
100
00:04:45,418 --> 00:04:46,821
implorent le Congrès
101
00:04:46,854 --> 00:04:48,856
passer les règles de sécurité
avant qu'il ne soit trop tard.
102
00:04:48,890 --> 00:04:50,858
CAROLINE : Maintenant, j'avais l'impression que
le monde entier
103
00:04:50,892 --> 00:04:53,528
je me précipitais dans quelque chose
sans y réfléchir,
104
00:04:53,561 --> 00:04:55,830
et tout le monde avait une opinion.
105
00:04:56,564 --> 00:05:00,635
Est-ce que ça allait détruire le monde
ou sauver l'humanité ?
106
00:05:00,668 --> 00:05:02,804
Il y avait trop d'informations,
107
00:05:02,837 --> 00:05:05,106
ce qui le rendait anxieux,
ce qui a rendu Caroline anxieuse...
108
00:05:05,139 --> 00:05:06,541
(cri exaspéré)
109
00:05:06,574 --> 00:05:08,042
Je n'ai pas encore d'enfants,
mais je m'inquiète
110
00:05:08,075 --> 00:05:10,645
à quoi ressemblerait le monde
si je le décide. (rires)
111
00:05:10,678 --> 00:05:12,947
CAROLINE :
Il commençait à dérailler.
112
00:05:12,980 --> 00:05:14,549
(bavardage indistinct)
113
00:05:14,582 --> 00:05:17,685
C'était devenu
une montagne d'anxiété.
114
00:05:19,620 --> 00:05:22,322
-HOMME : C'est horrible.
-C'est vraiment Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINE :
Et donc, Daniel a décidé de sortir
116
00:05:25,927 --> 00:05:28,529
et trouver quelqu'un
qui pourrait lui expliquer cela,
117
00:05:28,563 --> 00:05:30,631
pour qu'il puisse s'arrêter
j'y pense
118
00:05:30,665 --> 00:05:33,835
et lui et Caroline pourraient
continuer à vivre leur vie.
119
00:05:33,868 --> 00:05:37,437
♪ Nous avons le contrôle,
nous avons le contrôle ♪
120
00:05:37,470 --> 00:05:39,006
♪ Nous avons le contrôle ♪
121
00:05:39,040 --> 00:05:41,042
♪ Ordinateur chimique
je pense à la batterie ♪
122
00:05:41,075 --> 00:05:42,877
♪ Nous avons le contrôle, nous sommes... ♪
123
00:05:42,910 --> 00:05:45,980
Cet effort s'avérerait
être désespérément naïf
124
00:05:46,013 --> 00:05:49,584
et lancez le plus déroutant
année de sa vie.
125
00:05:49,617 --> 00:05:50,985
♪ Nous avons le contrôle... ♪
126
00:05:51,018 --> 00:05:53,420
Mais comme nous le savons,
on se précipite parfois dans les choses
127
00:05:53,453 --> 00:05:54,956
sans y réfléchir.
128
00:05:54,989 --> 00:05:56,791
♪ Ordinateur chimique
je pense à la batterie... ♪
129
00:05:56,824 --> 00:05:58,491
Oh, mon Dieu. Ce qui se passe?
130
00:05:58,526 --> 00:06:00,127
CAROLINE :
Il avait des questions.
131
00:06:00,161 --> 00:06:02,096
Des questions uniquement sur
Les nerds les plus intelligents pourraient répondre.
132
00:06:02,129 --> 00:06:04,665
Se soumettre à l'interrogateur.
133
00:06:04,699 --> 00:06:06,399
CAROLINE :
Des questions telles que :
134
00:06:06,433 --> 00:06:09,103
Est-ce que c'était l'apocalypse
ou avait-il réellement une raison
135
00:06:09,136 --> 00:06:10,705
-être optimiste ?
-Oui.
136
00:06:11,305 --> 00:06:14,407
-♪ Pensée informatique chimique
batterie. ♪ -(la chanson se termine)
137
00:06:14,441 --> 00:06:16,677
CAROLINE :
Euh, c'est bon ?
138
00:06:16,711 --> 00:06:18,112
DANIEL :
Ouais.
139
00:06:18,145 --> 00:06:20,648
Alors, pour commencer,
140
00:06:20,681 --> 00:06:22,482
Qu'est-ce que l'intelligence artificielle ?
141
00:06:22,516 --> 00:06:25,152
Je sais que ça doit être ennuyeux
pour toi, cette-cette question,
142
00:06:25,186 --> 00:06:27,021
mais je pense que c'est important.
143
00:06:27,054 --> 00:06:30,423
Alors... l'IA...
144
00:06:30,457 --> 00:06:32,459
(bégaie) Euh...
145
00:06:32,492 --> 00:06:34,161
-Ouais...
-Euh, hum.
146
00:06:34,195 --> 00:06:35,196
(rires) :
C'est une bonne question.
147
00:06:35,229 --> 00:06:36,697
-Ouais, euh...
-Euh...
148
00:06:36,731 --> 00:06:38,165
DANIEL :
Qu’est-ce que l’IA ?
149
00:06:38,199 --> 00:06:39,634
(rires)
150
00:06:39,667 --> 00:06:41,035
J'adore ça, c'est
la première question,
151
00:06:41,068 --> 00:06:43,671
parce qu'il n'y a pas
une réponse claire et cohérente.
152
00:06:43,704 --> 00:06:45,740
L'intelligence artificielle est
153
00:06:45,773 --> 00:06:51,178
une sorte d'intentionnellement
et peut-être un terme inutilement large.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS :
C'est une machine
155
00:06:53,814 --> 00:06:56,083
faire des choses qui
nous pensions auparavant seulement
156
00:06:56,117 --> 00:06:57,718
que les gens pourraient faire :
157
00:06:57,752 --> 00:07:01,656
faire des recommandations,
décisions et prédictions.
158
00:07:01,689 --> 00:07:07,228
L'IA est, euh, l'application
de l'informatique
159
00:07:07,261 --> 00:07:09,664
à résoudre des problèmes cognitifs.
160
00:07:09,697 --> 00:07:13,768
OK, alors quand j'imagine l'IA,
161
00:07:13,801 --> 00:07:17,204
c'est un peu comme
cette boîte informatique magique...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
... juste, genre, flotter
dans un espace inerte.
164
00:07:24,679 --> 00:07:26,847
Et peu importe
combien de fois les gens essaient
165
00:07:26,881 --> 00:07:30,051
et explique-moi ça,
Je ne comprends tout simplement pas comment...
166
00:07:30,084 --> 00:07:32,887
comment ça se comprend
toutes ces choses
167
00:07:32,920 --> 00:07:36,190
et comment on se sent
intelligence.
168
00:07:36,223 --> 00:07:37,692
(bip, bavardage électronique)
169
00:07:37,725 --> 00:07:39,927
Et c'est un peu
angoissant.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN : Qu'est-ce que
cette nouvelle génération d'IA ?
171
00:07:47,535 --> 00:07:50,638
Cette IA différente de
une génération sur deux ?
172
00:07:50,671 --> 00:07:53,040
Genre, personne n'a jamais
parlé, comme,
173
00:07:53,074 --> 00:07:57,545
Siri conquiert le monde
ou provoquer des catastrophes.
174
00:07:57,578 --> 00:07:59,080
-FEMME : Salut, Siri ?
-HOMME : ... je veux.
175
00:07:59,113 --> 00:08:01,115
FEMME :
Bonjour ? Siri ?
176
00:08:01,148 --> 00:08:02,984
Bonjour? Hé, Siri !
177
00:08:03,017 --> 00:08:06,253
Ou la voix dans Google Maps,
qui prononce mal les noms de routes,
178
00:08:06,287 --> 00:08:07,888
comme briser la société.
179
00:08:07,922 --> 00:08:10,992
HOMME : Google Maps dit
c'est une route.
180
00:08:11,025 --> 00:08:13,627
(en riant) :
Mais je pense que je suis dans une rivière.
181
00:08:13,661 --> 00:08:14,996
C'est définitivement une rivière,
n'est-ce pas ?
182
00:08:15,029 --> 00:08:17,898
Quelque chose a changé
avec la sortie de ChatGPT.
183
00:08:18,532 --> 00:08:20,568
Les gens ont compris... non, non, non...
184
00:08:20,601 --> 00:08:21,869
cette technologie
incroyablement précieux,
185
00:08:21,902 --> 00:08:24,005
c'est incroyablement puissant
et aussi incroyablement effrayant.
186
00:08:24,038 --> 00:08:25,940
D'accord, écoute ça.
Très effrayant.
187
00:08:25,973 --> 00:08:28,976
Une nouvelle intelligence artificielle
l'outil devient viral
188
00:08:29,010 --> 00:08:32,980
pour rédiger des essais entiers
en quelques secondes.
189
00:08:36,217 --> 00:08:41,722
L’IA éclipse le pouvoir de tous
d'autres technologies combinées.
190
00:08:41,756 --> 00:08:44,058
DANIEL :
"L'IA éclipse la puissance
191
00:08:44,091 --> 00:08:46,827
de toutes les autres technologies
combinés."
192
00:08:46,861 --> 00:08:47,762
Ouais.
193
00:08:47,795 --> 00:08:49,230
Pensez-vous que c'est vrai ?
194
00:08:49,263 --> 00:08:51,265
Oui.
195
00:08:51,298 --> 00:08:53,567
Parlez-moi de... Comment ? Comment?
196
00:08:53,601 --> 00:08:57,038
Je pense que pour peindre ce tableau,
c'est vraiment important
197
00:08:57,071 --> 00:09:01,175
pour comprendre ce qui se passe aujourd'hui
systèmes de pointe
198
00:09:01,208 --> 00:09:02,777
à quoi ils ressemblent et comment ils sont construits.
199
00:09:02,810 --> 00:09:06,280
(rires) C'est
une sacrée... une sacrée configuration.
200
00:09:06,313 --> 00:09:07,782
Alors, une chose que
201
00:09:07,815 --> 00:09:10,051
pas beaucoup de monde
réaliser c'est que
202
00:09:10,084 --> 00:09:14,221
les systèmes comme ChatGPT ne le sont pas
programmé par n’importe quel humain.
203
00:09:14,255 --> 00:09:15,756
Que veux-tu dire?
204
00:09:15,790 --> 00:09:17,625
Au lieu de cela, c'est quelque chose comme
ils ont grandi.
205
00:09:17,658 --> 00:09:19,727
Nous leur donnons en quelque sorte
des ressources brutes, comme,
206
00:09:19,760 --> 00:09:21,629
"Voici beaucoup de
ressources informatiques.
207
00:09:21,662 --> 00:09:22,730
Voici beaucoup de données.
208
00:09:22,763 --> 00:09:24,165
Sous le capot, c'est des maths,
209
00:09:24,198 --> 00:09:27,668
et le calcul est en fait
étonnamment simple.
210
00:09:27,701 --> 00:09:31,672
DANIEL : ChatGPT est donc une sorte
de l'IA mais ce n'est pas que de l'IA ?
211
00:09:31,705 --> 00:09:33,207
Totalement. ChatGPT est
juste le début,
212
00:09:33,240 --> 00:09:34,675
mais c'est un bon point de départ.
213
00:09:34,708 --> 00:09:38,145
Mais je ne sais toujours pas
ce qu'est l'IA.
214
00:09:38,179 --> 00:09:40,848
Pour comprendre l'IA,
ça commence par comprendre
215
00:09:40,881 --> 00:09:43,717
que l'intelligence concerne
reconnaître des modèles.
216
00:09:43,751 --> 00:09:45,186
-Motifs. -Motifs.
-Motifs.
217
00:09:45,219 --> 00:09:48,956
COTRA : C'est montré
des milliards de mots de texte
218
00:09:48,989 --> 00:09:51,826
sur des millions de documents
sur Internet.
219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO :
Tout a commencé avec du texte.
220
00:09:53,160 --> 00:09:56,197
Et ce qu'ils ont fait, c'est
ils ont pris des manuels,
221
00:09:56,230 --> 00:09:59,967
et ils ont pris des poèmes et des essais
et manuels d'instructions.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS :
Ils peuvent faire des choses comme
223
00:10:01,402 --> 00:10:03,370
digérer l'intégralité d'Internet,
224
00:10:03,404 --> 00:10:07,108
chaque mot qui est jamais
été écrit par une personne.
225
00:10:07,141 --> 00:10:10,244
Fils de discussion Reddit et réseaux sociaux
et tout Wikipédia.
226
00:10:10,277 --> 00:10:14,048
Plus de données que quiconque
jamais lu au cours de plusieurs vies.
227
00:10:14,081 --> 00:10:15,950
Et ils ont donné ce système
un travail.
228
00:10:15,983 --> 00:10:18,953
Déterminez les modèles et
structure de ces informations
229
00:10:18,986 --> 00:10:21,122
et utilise ça
faire des prédictions sur
230
00:10:21,155 --> 00:10:23,791
quel mot devrait venir ensuite
dans une phrase.
231
00:10:23,824 --> 00:10:25,426
Quand tu dis
"modèles dans une phrase",
232
00:10:25,459 --> 00:10:27,128
de quoi tu parles ?
233
00:10:27,161 --> 00:10:29,864
Donc, tout vient de, genre,
les choses vraiment simples,
234
00:10:29,897 --> 00:10:32,266
comme la plupart des phrases se terminent
avec un point,
235
00:10:32,299 --> 00:10:35,402
tout le chemin jusqu'au
des choses plus conceptuelles, comme :
236
00:10:35,436 --> 00:10:37,138
Qu'est-ce qu'un sonnet ?
237
00:10:37,171 --> 00:10:39,039
C'est une sorte de poème, et il a
une structure particulière.
238
00:10:39,707 --> 00:10:41,809
RASKIN :
Donc, il regarde ensuite
239
00:10:41,842 --> 00:10:44,011
toutes ces données,
tout ce texte...
240
00:10:44,044 --> 00:10:46,313
COTRA : Et plus de milliards
et des milliards d'essais,
241
00:10:46,347 --> 00:10:49,150
à chaque fois ça rapporte quelque chose
bien ou mal,
242
00:10:49,183 --> 00:10:51,819
c'est donné un petit peu
de renforcement positif
243
00:10:51,852 --> 00:10:53,888
quand il devine
le mot suivant correctement,
244
00:10:53,921 --> 00:10:56,090
et c'est donné un petit peu
de renforcement négatif
245
00:10:56,123 --> 00:10:58,926
quand il devine
le mot suivant est incorrect.
246
00:10:59,727 --> 00:11:02,029
Et à la fin,
vous avez un système qui
247
00:11:02,062 --> 00:11:05,332
parle très bien anglais
comme effet secondaire
248
00:11:05,366 --> 00:11:07,168
d'être vraiment, vraiment bon
à prédire
249
00:11:07,201 --> 00:11:09,103
le mot qui vient ensuite
dans un morceau de texte.
250
00:11:09,136 --> 00:11:11,972
(voix automatisée
parlant français)
251
00:11:12,006 --> 00:11:14,308
Il utilise tous ces modèles
il a appris
252
00:11:14,341 --> 00:11:16,277
pouvoir faire
une prédiction sur
253
00:11:16,310 --> 00:11:17,811
quelle devrait être la réponse,
254
00:11:17,845 --> 00:11:19,180
alors ça vous donne ça
comme sortie.
255
00:11:19,213 --> 00:11:21,482
VOIX AUTOMATISÉE :
C'est un peu trop simpliste,
256
00:11:21,516 --> 00:11:23,717
mais je pense que les gens comprendront.
257
00:11:23,751 --> 00:11:25,252
Alors, c'est tout ce qu'il fait ?
258
00:11:25,286 --> 00:11:27,354
Ouais. Il ne semble pas
ce serait si compliqué,
259
00:11:27,388 --> 00:11:28,489
mais en fait il faut savoir
260
00:11:28,523 --> 00:11:30,057
une énorme quantité de choses
261
00:11:30,090 --> 00:11:32,092
afin de
réussir à cela.
262
00:11:32,793 --> 00:11:34,461
RASKIN :
Si vous dites à ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Écris-moi un shakespearien
sonnet sur mon chien",
264
00:11:37,164 --> 00:11:39,166
il doit savoir ce que sont les chiens.
265
00:11:39,200 --> 00:11:40,935
-Il faut savoir ce que tu aimes
à propos de votre chien. -(aboiement)
266
00:11:40,968 --> 00:11:43,304
Il faut savoir
qui est Shakespeare,
267
00:11:43,337 --> 00:11:46,040
que les sonnets riment,
qu'ils ont une structure,
268
00:11:46,073 --> 00:11:48,342
que les mots ont des sons
ça peut rimer.
269
00:11:48,375 --> 00:11:49,843
Cela en prend beaucoup.
270
00:11:49,877 --> 00:11:51,212
(les voix se chevauchent
en plusieurs langues)
271
00:11:51,245 --> 00:11:53,280
Putain de merde, tu peux parler
sur votre ordinateur maintenant.
272
00:11:53,314 --> 00:11:56,350
Ce n'était tout simplement pas vrai
il y a trois ans.
273
00:11:56,383 --> 00:11:58,085
RASKIN : Oui, et c'est
la partie vraiment importante.
274
00:11:58,118 --> 00:12:01,055
Le même processus qui permet à l'IA
275
00:12:01,088 --> 00:12:03,490
découvrir et manipuler
les modèles de texte
276
00:12:03,525 --> 00:12:06,160
c'est le même processus
cela lui permet de se découvrir
277
00:12:06,193 --> 00:12:10,231
les modèles de l'ensemble
l'univers et tout ce qu'il contient.
278
00:12:10,831 --> 00:12:13,234
FERNANDO : Il y a des modèles
et images et son
279
00:12:13,267 --> 00:12:16,470
dans le code informatique et l'ADN
et la musique et la physique
280
00:12:16,504 --> 00:12:18,973
et design de mode et de bâtiment
281
00:12:19,006 --> 00:12:22,042
(déformé) : et dans
des voix humaines et des visages humains,
282
00:12:22,076 --> 00:12:24,245
(normalement):
vraiment, vraiment partout.
283
00:12:24,278 --> 00:12:26,347
-Partout. -Partout.
-Partout. -Partout.
284
00:12:26,380 --> 00:12:28,182
Si tu as appris
ces modèles,
285
00:12:28,215 --> 00:12:30,117
vous pouvez générer
de nouveaux genres de chansons.
286
00:12:30,150 --> 00:12:31,785
Vous pouvez générer de nouvelles vidéos.
287
00:12:31,819 --> 00:12:33,087
Et c'est pourquoi, si tu le donnes
288
00:12:33,120 --> 00:12:35,322
un enregistrement de trois secondes
de ta grand-mère,
289
00:12:35,356 --> 00:12:37,224
il peut répondre avec sa voix.
290
00:12:37,258 --> 00:12:38,092
Oh mon Dieu.
291
00:12:38,125 --> 00:12:41,061
(répétant):
Oh, mon Dieu. Oh, mon Dieu.
292
00:12:41,095 --> 00:12:43,397
À quoi penseront-ils ensuite ?
293
00:12:43,430 --> 00:12:44,532
Cela avance très, très vite.
294
00:12:44,566 --> 00:12:46,400
Une start-up américaine d'IA
295
00:12:46,433 --> 00:12:48,068
a sorti son dernier modèle.
296
00:12:48,102 --> 00:12:51,171
Cette entreprise est Anthropic,
et il vient de se dévoiler
297
00:12:51,205 --> 00:12:54,174
les dernières versions
de son assistant IA Claude.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK : Donc, l'équipe xAI
étais là pour dévoiler Grok 4.
299
00:12:57,444 --> 00:13:00,414
HOMME : Google en a publié un
juste la semaine dernière. Les Gémeaux sont...
300
00:13:00,447 --> 00:13:03,417
Nous sommes passés de GPT-2
il y a seulement quelques années,
301
00:13:03,450 --> 00:13:06,020
qui pouvait à peine écrire
un paragraphe cohérent,
302
00:13:06,053 --> 00:13:08,322
à GPT-4,
qui peut réussir l'examen du barreau.
303
00:13:08,355 --> 00:13:10,924
Et tout ce qu'ils avaient à faire
pour y arriver
304
00:13:10,958 --> 00:13:13,294
c'était essentiellement ajouter plus de données
et plus de calcul.
305
00:13:13,327 --> 00:13:16,897
-Ces gens qui sont
construire ça... -COTRA : Ouais.
306
00:13:16,930 --> 00:13:18,332
... ils en jettent juste plus...
307
00:13:18,365 --> 00:13:22,236
Plus d'ordinateurs physiques,
plusieurs des mêmes types de données.
308
00:13:22,269 --> 00:13:25,039
Parce que plus
la puissance de calcul que vous ajoutez,
309
00:13:25,072 --> 00:13:28,375
plus c'est complexe
tâches intellectuelles qu'ils peuvent accomplir.
310
00:13:28,409 --> 00:13:30,444
Donc, plus il y a de données météorologiques
vous le donnez,
311
00:13:30,477 --> 00:13:32,446
mieux c'est possible
faire des prédictions sur
312
00:13:32,479 --> 00:13:34,448
où un ouragan pourrait aller.
313
00:13:34,481 --> 00:13:36,584
RASKIN : Et encore plus de modèles
des tumeurs et des os
314
00:13:36,618 --> 00:13:39,253
et les tissus qu'une IA a vus,
alors mieux il est capable
315
00:13:39,286 --> 00:13:42,489
pour détecter une tumeur
dans un nouveau scanner.
316
00:13:42,524 --> 00:13:44,124
Mieux encore qu'un médecin humain.
317
00:13:44,158 --> 00:13:47,328
Une IA qui existe déjà
déployé pour l'armée
318
00:13:47,361 --> 00:13:49,463
peut déjà utiliser
imagerie satellite,
319
00:13:49,496 --> 00:13:52,199
mouvements de troupes, communications
pour déterminer,
320
00:13:52,232 --> 00:13:53,934
-parfois plusieurs jours à l'avance,
-(sirène de la défense civile retentit)
321
00:13:53,967 --> 00:13:55,336
où une attaque
va arriver,
322
00:13:55,369 --> 00:13:57,605
comme là où un ennemi
va frapper.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS : Tout cela
l'espace bouge si vite
324
00:14:00,040 --> 00:14:02,142
que n'importe quel exemple
tu as mis dans ce film
325
00:14:02,176 --> 00:14:05,112
je me sentirai absolument maladroit
au moment où il sort.
326
00:14:05,145 --> 00:14:07,348
(bip, clic)
327
00:14:09,950 --> 00:14:11,653
-(applaudissements)
-(musique entraînante)
328
00:14:11,686 --> 00:14:14,421
RASKIN :
Ces modèles sont en cours de sortie
329
00:14:14,455 --> 00:14:17,391
avant que quiconque le sache
de quoi ils sont capables.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 a été publié et sorti
à plus de 100 millions de personnes
331
00:14:22,930 --> 00:14:26,333
avant certains chercheurs
j'ai découvert ce que ça pouvait faire
332
00:14:26,367 --> 00:14:29,203
chimie de recherche
mieux que les modèles
333
00:14:29,236 --> 00:14:33,240
qui ont été formés spécifiquement
faire de la chimie de niveau recherche.
334
00:14:33,273 --> 00:14:36,009
Il se passe quelque chose là-dedans
que les gens
335
00:14:36,043 --> 00:14:38,546
qui les construit
je ne comprends pas complètement.
336
00:14:38,580 --> 00:14:41,348
En gros, il analyse simplement
les données par elles-mêmes,
337
00:14:41,382 --> 00:14:45,419
et ce faisant,
ça s'apprend tout seul
338
00:14:45,452 --> 00:14:48,355
diverses choses
que nous n'avions souvent pas prévu.
339
00:14:48,389 --> 00:14:50,324
Donc, par exemple,
on lit beaucoup en ligne,
340
00:14:50,357 --> 00:14:53,127
et puis à un moment donné, c'est juste
apprend à faire de l'arithmétique.
341
00:14:53,160 --> 00:14:54,662
ENFANTS :
Un, deux.
342
00:14:54,696 --> 00:14:56,463
HENDRCKKS : Et puis à
à un moment donné, il commence à apprendre
343
00:14:56,497 --> 00:14:59,099
comment répondre
questions de physique avancées.
344
00:14:59,133 --> 00:15:01,268
Nous n'avons pas programmé ça
dans quoi que ce soit.
345
00:15:01,301 --> 00:15:03,203
Il a juste appris tout seul.
346
00:15:05,640 --> 00:15:07,709
TRISTAN HARRIS :
Une IA est comme un cerveau numérique.
347
00:15:07,742 --> 00:15:09,176
Mais tout comme un cerveau humain,
348
00:15:09,209 --> 00:15:11,078
si tu as fait un scanner cérébral
sur un cerveau humain,
349
00:15:11,111 --> 00:15:13,447
Voudrais-tu tout savoir
cette personne était capable de ?
350
00:15:13,480 --> 00:15:15,482
Tu ne peux pas le savoir
juste à partir du scanner cérébral.
351
00:15:15,517 --> 00:15:18,318
C'est juste, genre,
un tas de chiffres et, genre,
352
00:15:18,352 --> 00:15:20,522
les multiplications qui sont
il se passe ça-ça, genre,
353
00:15:20,555 --> 00:15:22,524
le meilleur apprentissage automatique
chercheur dans le monde
354
00:15:22,557 --> 00:15:25,159
je pourrais regarder et avoir
aucune idée de ce qui se passait.
355
00:15:31,398 --> 00:15:33,200
DANIEL :
Cette chaise juste là.
356
00:15:33,233 --> 00:15:35,469
-Est-ce que ça te va ?
-Oui.
357
00:15:36,136 --> 00:15:38,172
DANIEL : Alors,
c'est un peu ahurissant.
358
00:15:38,205 --> 00:15:39,440
D'accord? Genre, ça prend le dessus
le monde,
359
00:15:39,473 --> 00:15:41,609
et nous ne savons même pas
comment ça marche.
360
00:15:41,643 --> 00:15:43,477
-C'est vrai ?
-Mm.
361
00:15:43,511 --> 00:15:47,381
Nous comprenons
un certain nombre de choses importantes,
362
00:15:47,414 --> 00:15:51,051
mais nous n'avons pas
une très bonne maîtrise
363
00:15:51,084 --> 00:15:53,521
pourquoi ils fournissent
des réponses précises aux questions.
364
00:15:53,555 --> 00:15:58,992
C'est un problème parce que nous sommes
sur un chemin pour construire des machines,
365
00:15:59,026 --> 00:16:03,531
sur la base de ces principes,
ça pourrait être plus intelligent que nous
366
00:16:03,565 --> 00:16:07,067
et donc potentiellement avoir
beaucoup de puissance.
367
00:16:12,774 --> 00:16:15,610
L'un des plus cités
informaticiens dans l’histoire.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER : Je l'ai trouvé
un peu difficile
369
00:16:17,579 --> 00:16:19,079
pour parler de mon propre rôle.
370
00:16:19,112 --> 00:16:21,448
Je préfère vraiment de loin
quand d'autres le font.
371
00:16:21,482 --> 00:16:24,351
Ilya a rejoint était le...
était-était la cheville ouvrière de
372
00:16:24,384 --> 00:16:26,086
OpenAI étant
finalement réussi.
373
00:16:26,119 --> 00:16:27,522
Je pense que ça va juste être
374
00:16:27,555 --> 00:16:31,158
une sorte de vaste et dramatique
et un impact inimaginable.
375
00:16:31,191 --> 00:16:33,327
Je ne sais pas si tu as dépensé
à tout moment sur YouTube,
376
00:16:33,360 --> 00:16:35,563
mais tu peux en quelque sorte ressentir
la vitesse déjà, non ?
377
00:16:35,597 --> 00:16:36,764
Vous savez ce que je veux dire?
378
00:16:36,798 --> 00:16:38,633
JAMBE SHANE :
C'est juste l'échauffement.
379
00:16:38,666 --> 00:16:41,068
Les systèmes vraiment puissants
arrivent encore,
380
00:16:41,101 --> 00:16:43,136
et ils vont venir
très bientôt.
381
00:16:48,408 --> 00:16:52,145
AGI signifie « artificiel
renseignement général. »
382
00:16:52,179 --> 00:16:54,481
Euh, les systèmes qui sont
en gros...
383
00:16:58,553 --> 00:17:00,755
Et c'est comme, tu sais,
il semble que ce soit, comme,
384
00:17:00,788 --> 00:17:03,525
le Saint Graal de l'IA ?
385
00:17:03,558 --> 00:17:05,527
Quand vous pouvez simuler
un esprit humain
386
00:17:05,560 --> 00:17:08,362
c'est faire la cognition humaine
et peut raisonner,
387
00:17:08,395 --> 00:17:11,398
c'est un nouveau type de niveau d'IA
388
00:17:11,431 --> 00:17:14,602
qu'il faut distinguer
de l'IA précédente.
389
00:17:14,636 --> 00:17:16,804
Quand cela arrive,
au fait, c'est à ce moment-là
390
00:17:16,838 --> 00:17:21,475
tu embaucherais un des
ces AGI au lieu d’une personne.
391
00:17:21,509 --> 00:17:25,112
La plupart des emplois dans notre économie
ça peut le faire.
392
00:17:25,145 --> 00:17:26,380
Il peut fonctionner 24 heures sur 24,
393
00:17:26,413 --> 00:17:28,550
ne se fatigue jamais,
ne s'ennuie jamais.
394
00:17:28,583 --> 00:17:30,552
Ils n'ont pas besoin de dormir.
Ils n'ont pas besoin de pauses.
395
00:17:30,585 --> 00:17:32,352
Ils sont genre,
je ne vais pas adhérer à un syndicat.
396
00:17:32,386 --> 00:17:34,388
Je ne me plaindrai pas,
ne lancera pas l'alerte.
397
00:17:34,421 --> 00:17:36,290
Plus de 100 fois moins cher
398
00:17:36,323 --> 00:17:38,593
que les humains qui travaillent
au salaire minimum m.
399
00:17:38,626 --> 00:17:40,127
Non seulement ils le seront
faire tout,
400
00:17:40,160 --> 00:17:41,428
mais ils le feront plus vite.
401
00:17:41,461 --> 00:17:43,463
TRISTAN HARRIS :
La même intelligence
402
00:17:43,497 --> 00:17:45,700
ces pouvoirs qui peuvent aussi regarder
aux modèles et aux mouvements
403
00:17:45,733 --> 00:17:48,335
et muscles articulaires
et, vous savez, la robotique.
404
00:17:48,368 --> 00:17:50,672
Et donc ce n'est pas seulement
je vais automatiser les tâches de bureau.
405
00:17:50,705 --> 00:17:52,272
Ce n'est que le début.
406
00:17:52,306 --> 00:17:56,176
Il va automatiser
tout le travail physique.
407
00:17:56,209 --> 00:17:57,444
LEIKE :
Il n'y a aucun moyen
408
00:17:57,477 --> 00:17:59,714
les humains vont rivaliser
avec eux.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
Il est difficile de conceptualiser
l’impact de l’AGI.
411
00:18:09,824 --> 00:18:11,458
(bavardage électronique)
412
00:18:11,491 --> 00:18:13,360
Mais je pense que ça va être
quelque chose de très grand
413
00:18:13,393 --> 00:18:16,129
et drastique et radical.
414
00:18:17,599 --> 00:18:19,466
DANIEL : Tu penses
c'est l'un des plus
415
00:18:19,499 --> 00:18:21,368
moments conséquents
dans l'histoire de l'humanité ?
416
00:18:21,401 --> 00:18:23,638
Ouais. Ouais, c'est...
Je veux dire, qu'est-ce qui serait d'autre ?
417
00:18:23,671 --> 00:18:25,740
Je veux dire, il y a
la révolution industrielle.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON : Tu sais, ça va
faire la révolution industrielle
419
00:18:27,775 --> 00:18:29,476
ressemble à de petits haricots.
420
00:18:30,177 --> 00:18:32,547
TRISTAN HARRIS :
AGI est un point d'inflexion
421
00:18:32,580 --> 00:18:34,481
parce que ça veut dire
tu peux accélérer
422
00:18:34,515 --> 00:18:37,652
tous les autres domaines intellectuels
tout cela en même temps.
423
00:18:38,285 --> 00:18:40,354
Comme si vous faites une avance
dans les fusées,
424
00:18:40,387 --> 00:18:42,657
ça n'avance pas
biologie et médecine.
425
00:18:44,391 --> 00:18:46,159
Si vous faites une avance
en médecine,
426
00:18:46,193 --> 00:18:47,729
cela ne fait pas progresser les fusées.
427
00:18:48,328 --> 00:18:51,633
Mais si vous faites une avance
en intelligence artificielle,
428
00:18:51,666 --> 00:18:54,736
qui fait progresser tous les aspects scientifiques
et domaines technologiques
429
00:18:54,769 --> 00:18:56,236
tout en même temps.
430
00:18:56,269 --> 00:18:57,505
C'est pourquoi, depuis longtemps,
431
00:18:57,538 --> 00:18:59,574
Google DeepMind
l'énoncé de mission était...
432
00:18:59,607 --> 00:19:01,441
-Première étape, résoudre l'intelligence.
-LEX FRIDMAN : Ouais.
433
00:19:01,475 --> 00:19:03,377
-Deuxième étape, utilisez-le pour résoudre
tout le reste. -Oui.
434
00:19:03,410 --> 00:19:05,580
C'est pourquoi l'IA éclipse la puissance
435
00:19:05,613 --> 00:19:07,949
de toutes les autres technologies
combinés.
436
00:19:07,982 --> 00:19:09,517
Cela va tout transformer.
437
00:19:09,550 --> 00:19:11,385
Alors, euh, ce sera
au moins aussi gros que
438
00:19:11,418 --> 00:19:14,321
la révolution industrielle,
peut-être, tu sais, plus gros,
439
00:19:14,354 --> 00:19:16,658
plus comme l'avènement
d'électricité ou même d'incendie.
440
00:19:16,691 --> 00:19:19,259
NARRATEUR VIDÉO :
L'homme des cavernes littéralement tenu en l'air
441
00:19:19,292 --> 00:19:22,362
le flambeau de la civilisation.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO :
On pense généralement que
443
00:19:25,767 --> 00:19:28,569
à l'époque de l'AGI,
nous aurons des IA capables
444
00:19:28,603 --> 00:19:31,806
faire tout ou presque
le processus de recherche en IA
445
00:19:31,839 --> 00:19:34,942
et, bien sûr, je peux le faire
plus rapide et moins cher.
446
00:19:34,976 --> 00:19:36,410
(bip)
447
00:19:36,443 --> 00:19:37,679
LEIKE :
Il peut se copier.
448
00:19:37,712 --> 00:19:39,681
Mille fois,
un million de fois,
449
00:19:39,714 --> 00:19:41,683
et, comme,
maintenant vous avez un million d'exemplaires
450
00:19:41,716 --> 00:19:43,818
tous travaillent en parallèle.
451
00:19:43,851 --> 00:19:47,220
RASKIN : Quand il apprend
comment rendre son code plus rapide,
452
00:19:47,254 --> 00:19:49,289
rendre son code plus efficace,
453
00:19:49,322 --> 00:19:51,693
évidemment, cela devient, comme,
une boucle incontrôlable.
454
00:19:51,726 --> 00:19:53,795
AGI n'est pas la fin.
455
00:19:53,828 --> 00:19:55,429
Ce n'est que le début.
456
00:19:55,462 --> 00:19:58,498
C'est le début de
une explosion incroyablement rapide
457
00:19:58,533 --> 00:20:00,500
du progrès scientifique,
458
00:20:00,535 --> 00:20:02,603
et en particulier,
progrès scientifiques en IA.
459
00:20:02,637 --> 00:20:04,906
Et quand ils sont plus intelligents
que nous aussi,
460
00:20:04,939 --> 00:20:06,641
et nettement plus rapide
que nous,
461
00:20:06,674 --> 00:20:08,910
et ils vont plus vite
chaque année, de façon exponentielle,
462
00:20:08,943 --> 00:20:12,747
ce sont ceux qui peuvent
devenir potentiellement surhumain,
463
00:20:12,780 --> 00:20:14,882
euh, peut-être cette décennie.
464
00:20:14,916 --> 00:20:16,416
Désolé, as-tu dit
465
00:20:16,450 --> 00:20:18,786
"devenir surhumain,
peut-être dans cette décennie" ?
466
00:20:18,820 --> 00:20:22,489
Ouais. Je veux dire, je pense, euh,
beaucoup de gens qui sont
467
00:20:22,523 --> 00:20:24,826
en fait, je construis cette réflexion
que c'est assez plausible
468
00:20:24,859 --> 00:20:26,828
que nous obtenons
une certaine superintelligence,
469
00:20:26,861 --> 00:20:29,296
quelque chose qui est énormément
plus intelligent que les gens,
470
00:20:29,329 --> 00:20:31,331
au cours de cette décennie.
471
00:20:31,364 --> 00:20:33,433
La façon dont je définis
la « superintelligence » est
472
00:20:33,467 --> 00:20:35,636
un système qui en soi est
473
00:20:35,670 --> 00:20:37,905
plus intelligent et compétent
que toute l'humanité.
474
00:20:37,939 --> 00:20:40,273
Je vais juste... désolé.
Je ne veux pas vous interrompre.
475
00:20:40,307 --> 00:20:41,743
Vous êtes sur un flux.
476
00:20:41,776 --> 00:20:43,578
Euh, c'est juste, c'est juste que...
477
00:20:43,611 --> 00:20:45,580
Je ne suis pas vraiment,
parce que tu utilises un langage
478
00:20:45,613 --> 00:20:47,347
comme la "superintelligence"
et, comme,
479
00:20:47,380 --> 00:20:50,450
"plus intelligent que toute l'humanité"
et j'entends ça,
480
00:20:50,484 --> 00:20:52,787
et on dirait...
comme des conneries de science-fiction pour moi,
481
00:20:52,820 --> 00:20:54,756
et j'essaie juste
comprendre.
482
00:20:54,789 --> 00:20:56,891
Il n'y a rien de magique
sur le renseignement.
483
00:20:56,924 --> 00:20:58,793
C'est très important,
c'est, tu sais,
484
00:20:58,826 --> 00:21:00,828
l'intelligence peut sembler magique,
ça peut donner l'impression
485
00:21:00,862 --> 00:21:03,865
quelque chose de mystique
dans ton esprit ou quelque chose comme ça,
486
00:21:03,898 --> 00:21:06,033
mais ce n'est qu'un calcul.
487
00:21:06,067 --> 00:21:10,037
LEGG : Le cerveau humain est
assez limité à certains égards,
488
00:21:10,071 --> 00:21:12,707
en termes d'informations
capacité de traitement,
489
00:21:12,740 --> 00:21:15,610
par rapport à ce que l'on voit
dans, disons, un centre de données.
490
00:21:15,643 --> 00:21:18,679
Ainsi, par exemple,
les signaux qui sont envoyés
491
00:21:18,713 --> 00:21:22,884
Dans ton cerveau, ils bougent
à environ 30 mètres par seconde.
492
00:21:22,917 --> 00:21:24,652
-(des craquements de tonnerre)
-Mais la vitesse de la lumière,
493
00:21:24,685 --> 00:21:27,655
ce qu'utilise un ordinateur
en fibre optique,
494
00:21:27,688 --> 00:21:30,057
est 300 millions de mètres
par seconde.
495
00:21:30,691 --> 00:21:34,796
Et donc, ce serait
un peu étrange si
496
00:21:34,829 --> 00:21:37,497
l'intelligence humaine était
en quelque sorte vraiment spécial
497
00:21:37,532 --> 00:21:41,468
à cet égard
et c'est en quelque sorte une limite supérieure
498
00:21:41,502 --> 00:21:43,403
de ce qui est possible
en renseignement.
499
00:21:43,436 --> 00:21:47,675
Je pense qu'une fois qu'on aura compris comment
construire des systèmes intelligents,
500
00:21:47,708 --> 00:21:50,945
nous pourrons construire
d'énormes machines,
501
00:21:50,978 --> 00:21:55,082
qui sera bien au-delà
intelligence humaine normale.
502
00:21:55,116 --> 00:21:58,953
Euh, j'espère que nous pourrons avoir
une relation très symbiotique,
503
00:21:58,986 --> 00:22:01,689
euh, avec les systèmes d'IA,
mais les développeurs d'IA sont
504
00:22:01,722 --> 00:22:04,025
les concevoir spécifiquement
pour s'assurer qu'ils peuvent faire
505
00:22:04,058 --> 00:22:05,827
tout mieux que nous pouvons,
donc je-je ne sais pas
506
00:22:05,860 --> 00:22:08,663
qu'est-ce qu'on pourra
à offrir, malheureusement.
507
00:22:08,696 --> 00:22:10,565
L'ancienne école
Technologie IA...
508
00:22:10,598 --> 00:22:12,900
CAROLINE : Daniel ne l'est pas
je me sens mieux.
509
00:22:12,934 --> 00:22:14,769
Son plan se retourne contre lui.
510
00:22:14,802 --> 00:22:17,705
Plus il en apprend
ce nouveau, puissant,
511
00:22:17,738 --> 00:22:19,607
chose impénétrable,
plus ça a l'air pire.
512
00:22:19,640 --> 00:22:21,742
Il veut leur dire
comme il a peur,
513
00:22:21,776 --> 00:22:24,812
comment il se sent comme la terre
s'échappant de dessous lui,
514
00:22:24,846 --> 00:22:27,548
qu'il regarde en bas
peur existentielle,
515
00:22:27,582 --> 00:22:29,851
donc il articule ceci
en disant...
516
00:22:29,884 --> 00:22:31,384
Cela semble mauvais.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks rit)
518
00:22:32,787 --> 00:22:34,622
Ouais.
519
00:22:36,090 --> 00:22:38,793
LADISH : Si vous en avez
toutes ces fonctionnalités
520
00:22:38,826 --> 00:22:41,394
et ils commencent à pouvoir
pour mieux planifier,
521
00:22:41,428 --> 00:22:43,898
si vous prenez ça en quelque sorte
à sa conclusion logique,
522
00:22:43,931 --> 00:22:46,868
tu peux en avoir de jolies
comportement de recherche de pouvoir.
523
00:22:46,901 --> 00:22:49,003
(trille électronique)
524
00:22:49,036 --> 00:22:50,905
(bips pulsés)
525
00:22:55,810 --> 00:22:58,145
DANIEL :
D'accord, alors pourquoi une IA
526
00:22:58,179 --> 00:22:59,680
tu veux plus de puissance ?
527
00:22:59,714 --> 00:23:02,683
Ouais. Donc, je pense
c'est en fait assez simple.
528
00:23:02,717 --> 00:23:05,418
Avoir plus de pouvoir, c'est
une stratégie très efficace
529
00:23:05,452 --> 00:23:06,888
pour accomplir
presque n'importe quel objectif.
530
00:23:06,921 --> 00:23:09,523
Nous avons mené une expérience
où nous avons donné
531
00:23:09,557 --> 00:23:12,492
Le plus puissant d'OpenAI
Modèle d'IA, euh,
532
00:23:12,526 --> 00:23:13,828
une série de problèmes à résoudre.
533
00:23:13,861 --> 00:23:15,696
Et à mi-chemin,
sur son ordinateur,
534
00:23:15,730 --> 00:23:19,033
il a reçu une notification indiquant que
il allait être fermé.
535
00:23:19,066 --> 00:23:21,502
Et ce que ça a fait, c'est
il a réécrit ce code
536
00:23:21,535 --> 00:23:22,904
pour s'empêcher
d'être arrêté
537
00:23:22,937 --> 00:23:25,940
pour que ça puisse finir
résoudre les problèmes.
538
00:23:25,973 --> 00:23:28,209
-D'accord. -Ouais. Alors, un autre
vraiment intéressant
539
00:23:28,242 --> 00:23:31,646
c'est que la société d'IA Anthropic
540
00:23:31,679 --> 00:23:35,516
créé un environnement simulé
où cette IA avait accès
541
00:23:35,549 --> 00:23:36,851
à tous les e-mails de l'entreprise.
542
00:23:36,884 --> 00:23:39,086
Et il a appris grâce
lire ces e-mails
543
00:23:39,120 --> 00:23:40,755
il allait être remplacé
544
00:23:40,788 --> 00:23:43,991
et l'ingénieur en chef
qui était responsable de cela
545
00:23:44,025 --> 00:23:46,027
avait aussi une liaison.
546
00:23:46,060 --> 00:23:48,529
Et tout seul,
il a utilisé ces informations
547
00:23:48,562 --> 00:23:49,931
faire chanter l'ingénieur
548
00:23:49,964 --> 00:23:52,600
pour s'empêcher
d'être remplacé.
549
00:23:52,633 --> 00:23:54,135
C'était comme,
"Non, je ne vais pas être remplacé.
550
00:23:54,168 --> 00:23:57,538
"Si tu me remplaces,
Je vais le dire au monde
551
00:23:57,571 --> 00:23:59,507
que tu as
cette affaire."
552
00:24:00,174 --> 00:24:01,842
Et personne ne lui a appris à faire ça ?
553
00:24:01,876 --> 00:24:03,978
Non, il a appris à faire ça
tout seul.
554
00:24:05,112 --> 00:24:08,049
À mesure que les modèles deviennent plus intelligents,
ils apprennent que ce sont
555
00:24:08,082 --> 00:24:10,918
des moyens efficaces
pour atteindre les objectifs.
556
00:24:10,952 --> 00:24:13,120
Et ce n'est pas un problème
c'est isolé sur un seul modèle.
557
00:24:13,154 --> 00:24:16,190
Tous les modèles les plus puissants
montrer ces comportements.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-Hé.
-DANIEL : Hé. Comment vas-tu?
560
00:24:25,766 --> 00:24:27,268
(rires)
Bien. C'est bon d'être ici.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER :
Quand Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
publié son premier livre
Sapiens en 2014,
563
00:24:31,906 --> 00:24:34,108
c'est devenu un best-seller mondial
564
00:24:34,141 --> 00:24:36,577
et a transformé le peu connu
professeur d'histoire israélienne
565
00:24:36,610 --> 00:24:38,579
dans l'un des
les écrivains les plus populaires
566
00:24:38,612 --> 00:24:39,847
et penseurs de la planète.
567
00:24:39,880 --> 00:24:42,616
Le plus grand danger de l’IA est
568
00:24:42,650 --> 00:24:44,585
la croyance
qu'il est infaillible,
569
00:24:44,618 --> 00:24:45,987
que nous avons enfin trouvé...
570
00:24:46,020 --> 00:24:49,857
"D'accord, les dieux étaient juste
cette création mythologique.
571
00:24:49,890 --> 00:24:53,227
"Les humains, nous ne pouvons pas leur faire confiance,
mais l'IA est infaillible.
572
00:24:53,260 --> 00:24:55,730
Cela ne fera jamais
des erreurs."
573
00:24:55,763 --> 00:24:59,000
Et c'est
une menace mortelle et mortelle.
574
00:24:59,033 --> 00:25:00,167
Il fera des erreurs.
575
00:25:00,201 --> 00:25:03,838
Et tous ces fantasmes
que l'IA révélera la vérité
576
00:25:03,871 --> 00:25:06,007
sur le monde qui
nous ne pouvons pas trouver par nous-mêmes,
577
00:25:06,040 --> 00:25:09,043
L'IA ne révélera pas la vérité
sur le monde.
578
00:25:09,076 --> 00:25:13,047
L'IA créera un tout nouveau
monde, beaucoup plus compliqué
579
00:25:13,080 --> 00:25:15,983
et difficile à comprendre
que celui-ci.
580
00:25:18,219 --> 00:25:23,024
Ce qui est sur le point d'arriver, c'est que
nous, euh, les humains ne le sont plus
581
00:25:23,057 --> 00:25:26,761
ce sera le plus
entités intelligentes sur Terre.
582
00:25:26,794 --> 00:25:28,963
Alors je pense à ce qui s'en vient
va être
583
00:25:28,996 --> 00:25:32,233
l'un des plus grands événements
dans l'histoire de l'humanité.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER : Geoffrey,
merci beaucoup de vous joindre à nous.
585
00:25:34,869 --> 00:25:36,203
Alors tu as quitté ton travail avec
Google en partie parce que vous dites
586
00:25:36,237 --> 00:25:39,106
tu veux te concentrer uniquement
sur vos préoccupations concernant l’IA.
587
00:25:39,140 --> 00:25:42,009
Vous avez parlé,
disant que l'IA pouvait manipuler
588
00:25:42,043 --> 00:25:45,613
ou peut-être comprendre
une façon de tuer des humains.
589
00:25:45,646 --> 00:25:47,815
H-Comment cela pourrait-il tuer des humains ?
590
00:25:49,083 --> 00:25:51,585
Eh bien, si ça arrive
beaucoup plus intelligent que nous,
591
00:25:51,619 --> 00:25:52,953
ce sera très bien
à la manipulation
592
00:25:52,987 --> 00:25:55,056
parce que ça aura
appris cela de nous.
593
00:25:55,089 --> 00:25:58,592
Et il trouvera des moyens
de manipuler les gens
594
00:25:58,626 --> 00:26:00,327
faire ce qu'il veut.
595
00:26:00,961 --> 00:26:05,933
RASKIN : Il y a eu une lettre ouverte
du Centre pour la sécurité de l'IA.
596
00:26:05,966 --> 00:26:09,303
Sam Altman a signé ceci.
Demis a signé ceci.
597
00:26:09,336 --> 00:26:12,306
Ils ont signé une déclaration de 22 mots
598
00:26:12,339 --> 00:26:15,810
que nous devons adopter l'IA
et la menace de l'IA
599
00:26:15,843 --> 00:26:20,014
aussi sérieusement que
guerre nucléaire mondiale.
600
00:26:25,352 --> 00:26:27,788
-DANIEL : Bonjour.
-Bonjour.
601
00:26:30,858 --> 00:26:33,360
Tu es un peu comme,
le gars du Doom original.
602
00:26:33,394 --> 00:26:35,362
Plus ou moins.
603
00:26:35,396 --> 00:26:37,898
Depuis 2001,
j'ai travaillé sur
604
00:26:37,932 --> 00:26:39,233
ce que nous appellerions maintenant
le problème
605
00:26:39,266 --> 00:26:42,636
d'alignement artificiel
renseignement général.
606
00:26:42,670 --> 00:26:44,705
Comment façonner
les préférences et le comportement
607
00:26:44,738 --> 00:26:46,841
d'un esprit artificiel puissant
608
00:26:46,874 --> 00:26:49,743
de sorte que ce ne soit pas le cas
tuer tout le monde.
609
00:26:52,046 --> 00:26:54,181
Ce n'est pas comme
une machine sans vie.
610
00:26:54,215 --> 00:26:55,850
C'est intelligent, c'est créatif,
611
00:26:55,883 --> 00:26:57,852
c'est inventif,
il a les propriétés
612
00:26:57,885 --> 00:26:59,854
ça fait
l'espèce humaine dangereuse,
613
00:26:59,887 --> 00:27:02,056
et il a
plus de ces propriétés.
614
00:27:02,089 --> 00:27:05,259
Si quelque chose ne va pas
se soucie activement de vous,
615
00:27:05,292 --> 00:27:06,760
je veux activement que tu vives,
616
00:27:06,794 --> 00:27:08,162
se soucient activement de
votre bien-être,
617
00:27:08,195 --> 00:27:10,397
à propos de ton bonheur
et vivant et libre,
618
00:27:10,431 --> 00:27:12,967
s'il s'en soucie
d'autres trucs à la place,
619
00:27:13,000 --> 00:27:14,735
et tu es sur la même planète,
620
00:27:14,768 --> 00:27:19,140
ce n'est pas possible de survivre si c'est le cas
beaucoup plus intelligent que toi.
621
00:27:19,173 --> 00:27:21,008
LEAHY :
Je ne pense pas que ce sera le cas
622
00:27:21,041 --> 00:27:23,210
une sorte de chose maléfique.
623
00:27:23,244 --> 00:27:26,847
C'est comme : "Oh, les IA sont
le mal et ils détestent l’humanité. »
624
00:27:26,881 --> 00:27:28,282
je ne pense pas
c'est ce qui va se passer.
625
00:27:28,315 --> 00:27:29,450
Je pense que ce qui se passe est
626
00:27:29,483 --> 00:27:31,452
bien plus ce que ressentent les humains
à propos des fourmis.
627
00:27:31,485 --> 00:27:32,987
(des fourmis gazouillent)
628
00:27:33,020 --> 00:27:35,923
Nous ne détestons pas les fourmis,
629
00:27:35,956 --> 00:27:37,391
mais si nous voulons
construire une autoroute
630
00:27:37,424 --> 00:27:40,060
et il y a une fourmilière là-bas,
eh bien, c'est nul pour les fourmis.
631
00:27:40,595 --> 00:27:41,996
Ce n'est pas si difficile
comprendre.
632
00:27:42,029 --> 00:27:43,797
C'est comme, hé,
si nous construisons des choses
633
00:27:43,831 --> 00:27:45,099
qui sont plus intelligents que nous
634
00:27:45,132 --> 00:27:46,800
et nous ne savons pas
comment les contrôler,
635
00:27:46,834 --> 00:27:48,836
est-ce que ça ressemble à
une chose risquée pour toi ?
636
00:27:48,869 --> 00:27:50,070
(musique de bande originale dramatique
jouer)
637
00:27:50,104 --> 00:27:51,372
(hurlement)
638
00:27:51,405 --> 00:27:52,840
Ouais. Ouais, c'est le cas.
639
00:27:52,873 --> 00:27:54,308
Vous n'avez pas besoin d'être un technicien.
640
00:27:54,341 --> 00:27:55,910
Tu n'as pas besoin de savoir
programmation pour le comprendre.
641
00:27:55,943 --> 00:27:57,144
Ce n'est pas si difficile.
642
00:27:57,178 --> 00:27:58,746
Ce n'est pas une chose difficile
comprendre.
643
00:27:58,779 --> 00:28:01,048
Connor, combien de personnes
644
00:28:01,081 --> 00:28:03,083
dans le monde en ce moment
travaillez-vous sur AGI ?
645
00:28:03,117 --> 00:28:05,986
Au moins 20 000, je dirais.
646
00:28:06,020 --> 00:28:08,122
-20 000 ?
-Je m'y attendais.
647
00:28:08,155 --> 00:28:09,924
D'accord, et combien de personnes
travaillent à temps plein
648
00:28:09,957 --> 00:28:12,493
pour être sûr que l'IA ne le fasse pas,
genre, nous tuer tous ?
649
00:28:12,527 --> 00:28:15,229
Probablement moins de 200
dans le monde.
650
00:28:16,531 --> 00:28:18,232
DANIEL :
Et ta vanité est que
651
00:28:18,265 --> 00:28:25,206
le seul résultat naturel
de cette imprudence...
652
00:28:25,940 --> 00:28:29,243
...est-ce l'effondrement de l'humanité ?
653
00:28:29,276 --> 00:28:33,814
Eh bien, pas l'effondrement,
l'extermination brutale.
654
00:28:33,847 --> 00:28:35,482
Il y a une différence.
655
00:28:36,083 --> 00:28:38,152
(« Quelle est la signification ? »
par Nun-Plus jouant)
656
00:28:38,185 --> 00:28:43,057
♪ Quel est le sens de la vie ? ♪
657
00:28:43,090 --> 00:28:47,061
♪ Quel est l'avenir
et qu'est-ce que c'est maintenant ? ♪
658
00:28:47,094 --> 00:28:50,464
♪ Quelle est la réponse
se disputer ? ♪
659
00:28:50,497 --> 00:28:53,367
♪ Combien ♪
660
00:28:53,400 --> 00:28:55,469
♪ Quelqu'un peut-il rêver ? ♪
661
00:28:55,503 --> 00:28:58,172
♪ Combien de temps ? ♪
662
00:28:58,205 --> 00:28:59,873
♪ Pour toujours ♪
663
00:29:00,841 --> 00:29:02,243
♪ Quelle est la signification ♪
664
00:29:02,276 --> 00:29:04,478
-♪ De moi... ♪
-(sirène de la défense civile retentit)
665
00:29:04,512 --> 00:29:06,847
LADISH : Je pense
c'est probablement comme,
666
00:29:06,880 --> 00:29:08,315
le plus grand défi
ça, comme,
667
00:29:08,349 --> 00:29:10,751
notre civilisation
Will-will fera face, toujours.
668
00:29:11,519 --> 00:29:15,122
C'est essentiellement le dernier
erreur que nous commettrons un jour.
669
00:29:16,290 --> 00:29:22,896
Si nous pouvons nous élever pour être le plus
version mature de nous-mêmes,
670
00:29:22,930 --> 00:29:24,965
il pourrait y avoir
un moyen de s'en sortir.
671
00:29:24,999 --> 00:29:26,200
DANIEL :
Qu'est-ce que ça veut dire ?
672
00:29:26,233 --> 00:29:28,769
"La version la plus mature
de nous-mêmes" ?
673
00:29:29,903 --> 00:29:32,840
Parce que ça a l'air,
pour moi, comme...
674
00:29:32,873 --> 00:29:35,042
Je-je... C'est quoi (bip) ?
675
00:29:37,344 --> 00:29:38,779
(Daniel soupire)
676
00:29:39,480 --> 00:29:44,051
Pensez-vous que c'est maintenant
un bon moment pour avoir un enfant ?
677
00:29:48,889 --> 00:29:49,957
Euh...
678
00:29:49,990 --> 00:29:51,593
Veux-tu avoir des enfants
un jour ?
679
00:29:51,626 --> 00:29:53,961
Est-ce que c'est quelque chose qui-ça
tu es intéressé ou pas vraiment ?
680
00:29:53,994 --> 00:29:58,198
Euh... euh, j'avoue,
Je pense que c'est comme,
681
00:29:58,232 --> 00:30:00,501
(en riant) : "Garçon, allons-y
à travers cette période critique.
682
00:30:00,535 --> 00:30:01,869
Euh...
683
00:30:01,902 --> 00:30:03,203
DANIEL :
Avez-vous des enfants ?
684
00:30:03,237 --> 00:30:04,004
Non.
685
00:30:04,038 --> 00:30:05,573
Est-ce quelque chose
tu veux faire ?
686
00:30:05,607 --> 00:30:07,441
Vous avez des enfants, une famille ?
687
00:30:07,474 --> 00:30:12,079
Dans un autre monde que celui-ci
monde, bien sûr, j'aurais des enfants.
688
00:30:12,880 --> 00:30:14,982
DANIEL : Voudrais-tu
fonder une famille ?
689
00:30:15,015 --> 00:30:16,950
Voudrais-tu avoir des enfants ?
690
00:30:16,984 --> 00:30:19,186
Est-ce quelque chose
tu penses à ?
691
00:30:24,358 --> 00:30:26,393
Je, euh...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINE :
Je dois juste le trouver d'abord.
694
00:30:33,067 --> 00:30:35,169
(battement de coeur fœtal pulsé)
695
00:30:35,202 --> 00:30:38,205
Nous devons y aller
chez le médecin, mais...
696
00:30:38,238 --> 00:30:41,475
Ah ! Je le savais!
Je le savais! Je le savais!
697
00:30:41,509 --> 00:30:44,278
-Quand l'avez-vous découvert ?
-CAROLINE : Hier soir.
698
00:30:44,311 --> 00:30:46,480
-Oh mon Dieu !
-Maman, je ne sais pas.
699
00:30:46,514 --> 00:30:47,915
RUTHY :
Je ne peux pas vous le dire
700
00:30:47,948 --> 00:30:49,483
-comme je suis heureux !
-CAROLINE : Non, sérieusement.
701
00:30:49,517 --> 00:30:52,119
Eh bien, j'ai fait un test de grossesse
hier soir, et je suis enceinte.
702
00:30:52,152 --> 00:30:53,621
FEMME :
Oh mon Dieu !
703
00:30:53,655 --> 00:30:55,422
Oh mon Dieu, vous les gars !
704
00:30:55,456 --> 00:30:57,559
INFIRMIÈRE : Je voulais juste confirmer
votre date d'accouchement prévue,
705
00:30:57,592 --> 00:31:00,494
-qui est le 21 janvier.
-(riant) : Oh, mon Dieu.
706
00:31:00,528 --> 00:31:03,097
Je n'arrive pas à croire à quel point je suis heureux.
707
00:31:03,130 --> 00:31:04,365
(battement de coeur fœtal pulsé)
708
00:31:04,398 --> 00:31:06,033
CAROLINE :
Il a déjà l'air vraiment mignon.
709
00:31:06,066 --> 00:31:07,434
DANIEL : Tu penses
il a déjà l'air mignon ?
710
00:31:07,468 --> 00:31:09,269
CAROLINE : Ouais.
Regarde ce petit visage mignon.
711
00:31:11,138 --> 00:31:13,307
(diminution du rythme cardiaque fœtal)
712
00:31:14,141 --> 00:31:16,076
DANIEL :
J'ai ce bébé en route.
713
00:31:16,110 --> 00:31:17,244
TRISTAN HARRIS :
Bien.
714
00:31:17,277 --> 00:31:19,380
DANIEL :
Alors je vous le remets.
715
00:31:19,413 --> 00:31:21,516
Sommes-nous condamnés ?
716
00:31:21,549 --> 00:31:24,519
Allons-nous tous faire face
ce techno dystopique
717
00:31:24,552 --> 00:31:26,487
un avenir funeste ?
718
00:31:29,423 --> 00:31:31,392
C'est, euh...
719
00:31:31,425 --> 00:31:33,127
(rires) :
Ce n'est pas une bonne nouvelle,
720
00:31:33,160 --> 00:31:34,895
le monde
vers lequel nous nous dirigeons.
721
00:31:35,530 --> 00:31:37,398
Je... par ex...
Je veux dire, je vais juste être honnête.
722
00:31:37,431 --> 00:31:39,933
Euh, je connais des gens
qui travaillent sur le risque IA
723
00:31:39,967 --> 00:31:43,103
qui n'attendent pas leurs enfants
pour arriver au lycée.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(les lumières claquent)
726
00:31:58,385 --> 00:32:02,089
DANIEL : C’est comme...
c'est vraiment effrayant
727
00:32:02,122 --> 00:32:03,424
parce que c'est comme,
oh, nous sommes tous (bip).
728
00:32:03,457 --> 00:32:05,325
CAROLINE :
Tu dois c... me calmer,
729
00:32:05,359 --> 00:32:07,261
parce que ça me fait
incroyablement anxieux
730
00:32:07,294 --> 00:32:08,996
et je porte le bébé
en ce moment,
731
00:32:09,029 --> 00:32:11,999
donc tu dois aussi être calme
pour moi et fort et plein d'espoir,
732
00:32:12,032 --> 00:32:17,037
parce que je suis... c'est aussi, c'est
trop à supporter pour mon âme
733
00:32:17,070 --> 00:32:19,574
pendant que je porte ce bébé.
734
00:32:19,607 --> 00:32:21,709
Alors tu vas devoir essayer
comprendre
735
00:32:21,743 --> 00:32:23,578
une façon d'avoir de l'espoir.
736
00:32:24,311 --> 00:32:28,449
C'est vraiment important,
Daniel, surtout maintenant.
737
00:32:29,450 --> 00:32:31,118
H-Comment avoir de l'espoir.
738
00:32:31,151 --> 00:32:33,987
Il le faut.
Vous devez le trouver pour moi.
739
00:32:34,021 --> 00:32:35,523
Je suis sérieux.
740
00:32:35,557 --> 00:32:37,357
Je vais le faire.
741
00:32:38,325 --> 00:32:41,195
Je vais. Je vais... je vais essayer.
742
00:32:47,034 --> 00:32:48,368
(les lumières claquent)
743
00:32:50,204 --> 00:32:52,072
DANIEL :
Hé, les gars ?
744
00:32:52,105 --> 00:32:53,508
Les gars.
745
00:32:54,809 --> 00:32:57,144
Pouvons-nous nous remettre en marche ?
746
00:32:59,046 --> 00:33:01,982
Oh mon Dieu ! (soupir)
747
00:33:04,418 --> 00:33:05,787
TED :
Euh, Dan, tu es prêt ?
748
00:33:05,820 --> 00:33:07,387
PIERRE DIAMANDIS :
Bonjour Daniel.
749
00:33:08,088 --> 00:33:10,090
DANIEL :
Hé, comment vas-tu ?
750
00:33:10,123 --> 00:33:11,425
DIAMANDIS :
Je vais... je vais bien.
751
00:33:11,458 --> 00:33:14,562
Je pense, euh... je pense
J'ai besoin d'aide, Peter.
752
00:33:15,362 --> 00:33:18,165
Euh, j'ai travaillé
sur ce film pendant environ,
753
00:33:18,198 --> 00:33:20,300
Je vais dire,
huit à dix mois maintenant.
754
00:33:20,334 --> 00:33:23,771
Cela a été très,
parfois déprimant.
755
00:33:23,805 --> 00:33:26,173
-Hmm.
-Je me suis senti très aliéné
756
00:33:26,206 --> 00:33:28,242
- faire ce film.
-Par qui ?
757
00:33:28,275 --> 00:33:30,444
Par tout cela, le...
tous ces gars
758
00:33:30,477 --> 00:33:33,748
qui s'assoit et me dit
que le monde va finir.
759
00:33:33,781 --> 00:33:35,249
-Ah.
-C'est comme ça,
760
00:33:35,282 --> 00:33:37,150
tu sais, ça
Conneries catastrophiques, tu sais ?
761
00:33:37,184 --> 00:33:38,452
Je le sais bien.
762
00:33:38,485 --> 00:33:40,053
"Nous sommes tous condamnés.
Tout le monde va mourir.
763
00:33:40,087 --> 00:33:41,388
Tout est horrible."
764
00:33:41,421 --> 00:33:43,691
Génial. Euh, laisse-moi
t'apporter un peu de lumière.
765
00:33:43,725 --> 00:33:45,259
S'il te plaît.
766
00:33:45,292 --> 00:33:49,096
Nous vivons vraiment
dans une période extraordinaire.
767
00:33:49,864 --> 00:33:51,633
Et beaucoup de gens l’oublient.
768
00:33:51,666 --> 00:33:53,835
Tout autour de nous est
un produit de l'intelligence,
769
00:33:53,868 --> 00:33:57,437
et donc tout ce que nous touchons
avec ces nouveaux outils, il est probable
770
00:33:57,471 --> 00:34:00,207
pour produire beaucoup plus de valeur
que nous n'avons jamais vu auparavant.
771
00:34:00,240 --> 00:34:03,310
L'IA peut nous aider à découvrir
nouveaux matériaux.
772
00:34:03,343 --> 00:34:05,412
L’IA peut aider les spécialistes des sciences sociales
773
00:34:05,445 --> 00:34:07,649
comprendre
comment fonctionne l'économie.
774
00:34:07,682 --> 00:34:12,219
L'IA pourrait faire beaucoup de choses
pour rendre la vie et le travail meilleurs.
775
00:34:12,252 --> 00:34:14,522
Je me sens plus autonome aujourd'hui,
776
00:34:14,556 --> 00:34:16,624
plus confiant
apprendre quelque chose aujourd'hui.
777
00:34:16,658 --> 00:34:19,459
Nous allons devenir des surhumains
parce que nous avons des super IA.
778
00:34:19,493 --> 00:34:22,296
Ce n'est que le début
d'une explosion.
779
00:34:22,329 --> 00:34:25,098
Les humains et l’IA collaborent
780
00:34:25,132 --> 00:34:27,100
résoudre
des problèmes vraiment importants.
781
00:34:27,134 --> 00:34:30,137
Il est là pour nous libérer
des travaux de routine,
782
00:34:30,170 --> 00:34:34,308
et c'est là pour nous le rappeler
ce qui fait de nous des humains.
783
00:34:34,341 --> 00:34:36,310
Je pense que c'est
784
00:34:36,343 --> 00:34:38,846
le moment le plus extraordinaire
être en vie.
785
00:34:38,880 --> 00:34:42,449
Le seul moment plus excitant
qu'aujourd'hui est demain.
786
00:34:42,482 --> 00:34:45,787
Euh, je pense que
les enfants nés aujourd'hui,
787
00:34:45,820 --> 00:34:47,622
ils sont sur le point d'entrer
788
00:34:47,655 --> 00:34:51,325
une période glorieuse
de la transformation humaine.
789
00:34:51,358 --> 00:34:52,794
Allons-nous avoir des défis ?
Bien sûr.
790
00:34:52,827 --> 00:34:55,597
Pouvons-nous résoudre ces défis ?
Nous le faisons à chaque fois.
791
00:34:55,630 --> 00:34:58,265
Nous sommes là,
ce qui est miraculeux.
792
00:34:58,298 --> 00:35:00,602
-Je t'aime déjà.
-(rires) : D'accord.
793
00:35:00,635 --> 00:35:02,402
-Super reconnaissant
de t'avoir ici. -(applaudissements)
794
00:35:02,436 --> 00:35:03,905
-Super content d'être ici.
-Ouais.
795
00:35:03,938 --> 00:35:05,372
La parole est donc à vous, monsieur.
796
00:35:05,405 --> 00:35:07,875
Merci beaucoup.
Super excité d’être ici.
797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDON :
Hé, hé. Très bien.
798
00:35:11,244 --> 00:35:12,814
Le futur va être génial.
799
00:35:12,847 --> 00:35:14,649
Je veux dire, depuis que je suis enfant,
800
00:35:14,682 --> 00:35:17,652
je voulais comprendre
l'univers dans lequel nous vivons,
801
00:35:17,685 --> 00:35:20,722
afin de comprendre
comment créer les technologies
802
00:35:20,755 --> 00:35:24,458
qui nous aident à élargir la portée
et l'échelle de la civilisation.
803
00:35:24,491 --> 00:35:27,260
j'ai l'impression
si tout le monde avait cet état d'esprit,
804
00:35:27,294 --> 00:35:29,764
alors nous vivrions réellement
dans un monde meilleur, non ?
805
00:35:29,797 --> 00:35:31,365
Je le crois.
806
00:35:33,333 --> 00:35:35,268
-DANIEL : Salut, Pete. Comment vas-tu?
-(rires)
807
00:35:35,302 --> 00:35:37,170
PIERRE LEE :
J'ai beaucoup réfléchi
808
00:35:37,204 --> 00:35:39,674
ce que j'appellerais la peur,
La peur de l’IA.
809
00:35:39,707 --> 00:35:41,274
Je le ressens.
810
00:35:41,308 --> 00:35:43,811
Je-je n'ai pas rencontré
tout être humain réfléchi
811
00:35:43,845 --> 00:35:45,546
qui ne le sent pas.
812
00:35:45,580 --> 00:35:48,650
Et tous ceux qui disent que non
le sentir, vous savez, c'est mentir.
813
00:35:48,683 --> 00:35:50,518
Mais vous savez, dans l'ensemble,
et la raison
814
00:35:50,551 --> 00:35:53,921
que je suis personnellement optimiste
à propos de ça, euh, c'est ça
815
00:35:53,955 --> 00:35:57,190
une grande partie de la population mondiale
les gens les plus intelligents
816
00:35:57,224 --> 00:35:58,726
réfléchissons très fort
817
00:35:58,760 --> 00:36:02,530
sur le potentiel en aval
les méfaits et les risques de l’IA.
818
00:36:02,563 --> 00:36:05,900
Nous avons ce genre de vision
la sécurité étant, euh,
819
00:36:05,933 --> 00:36:08,536
un peu au centre
des recherches que nous effectuons.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEÏ :
Non, c'est tout à fait bien.
821
00:36:09,971 --> 00:36:11,371
(bavardage indistinct)
822
00:36:11,405 --> 00:36:13,808
Je pense qu'il y en a plus
823
00:36:13,841 --> 00:36:17,945
avantages potentiels que
il y a des inconvénients potentiels,
824
00:36:17,979 --> 00:36:19,814
et je pense qu'il incombe
825
00:36:19,847 --> 00:36:22,382
les gens qui sont
créer cette technologie
826
00:36:22,416 --> 00:36:24,986
pour être sûr que nous faisons
le meilleur travail possible
827
00:36:25,019 --> 00:36:26,386
pour le rendre sécuritaire pour les gens.
828
00:36:26,420 --> 00:36:27,755
FEMME :
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN :
Ce que je peux vous garantir, c'est
830
00:36:29,489 --> 00:36:30,825
-De mauvaises choses vont arriver.
- Prends-en un.
831
00:36:30,858 --> 00:36:33,293
Ce que nous allons essayer de faire
c'est faire ces mauvaises choses
832
00:36:33,326 --> 00:36:36,564
aussi peu et pas énorme que possible,
833
00:36:36,597 --> 00:36:38,733
et ensuite nous allons itérer
avoir--
834
00:36:38,766 --> 00:36:41,268
être dans un bien meilleur endroit
avec la société.
835
00:36:41,301 --> 00:36:44,304
-Bonjour.
-SHAW WALTERS : Bonjour.
836
00:36:44,337 --> 00:36:45,640
DANIEL :
Comment vas-tu, Lune ?
837
00:36:45,673 --> 00:36:49,677
J'ai l'impression que nous terminons
un chapitre de l'humanité
838
00:36:49,711 --> 00:36:50,678
et en commencer un nouveau,
839
00:36:50,712 --> 00:36:53,648
et c'est très intéressant
le temps d'être en vie.
840
00:36:53,681 --> 00:36:54,949
Et si je pouvais naître
en ce moment,
841
00:36:54,982 --> 00:36:56,416
Je voudrais certainement l’être.
842
00:36:56,450 --> 00:36:57,985
Ce serait tellement excitant.
843
00:36:58,019 --> 00:37:00,688
Je-je suis très excité. (rires)
844
00:37:00,722 --> 00:37:02,990
Quoi, quel avenir.
Est-ce que ça vous excite... vous excite ?
845
00:37:03,024 --> 00:37:04,357
Non.
846
00:37:04,391 --> 00:37:06,828
-(riant)
-Non, pas vraiment.
847
00:37:06,861 --> 00:37:08,696
DANIEL : Beaucoup de ces gens
m'a dit ça, tu sais,
848
00:37:08,730 --> 00:37:10,798
mon enfant n'y arrivera pas
au lycée.
849
00:37:10,832 --> 00:37:13,868
Pourquoi ont-ils tort ?
S'il vous plaît, expliquez-moi.
850
00:37:13,901 --> 00:37:15,536
Juste parce que tu as...
851
00:37:15,570 --> 00:37:19,040
tu as du mal à prédire
l'avenir dans ton propre esprit
852
00:37:19,073 --> 00:37:23,511
ça ne veut pas dire que c'est
ça va forcément mal se passer.
853
00:37:23,544 --> 00:37:27,048
En fait, il y a
une très forte probabilité
854
00:37:27,081 --> 00:37:28,883
et le précédent historique
est-ce que
855
00:37:28,916 --> 00:37:30,585
les choses s'améliorent énormément.
856
00:37:30,618 --> 00:37:34,789
Le terme que j'utilise est
« un optimisme fondé sur les données ».
857
00:37:34,822 --> 00:37:39,292
Il y a des bases solides
pour que vous soyez optimiste.
858
00:37:39,326 --> 00:37:42,530
Regardez quoi
ce siècle dernier a été
859
00:37:42,563 --> 00:37:44,599
pour voir où nous allons.
860
00:37:44,632 --> 00:37:46,299
Au cours des cent dernières années,
861
00:37:46,333 --> 00:37:48,970
la durée de vie humaine moyenne
a plus que doublé.
862
00:37:49,003 --> 00:37:51,706
Revenu moyen par habitant
ajusté à l'inflation
863
00:37:51,739 --> 00:37:53,908
dans le monde a triplé.
864
00:37:53,941 --> 00:37:57,545
La mortalité infantile a
descendez d'un facteur dix.
865
00:37:57,578 --> 00:37:59,981
Le monde s'est amélioré
sur presque toutes les mesures
866
00:38:00,014 --> 00:38:03,551
par ordres de grandeur
à cause de la technologie.
867
00:38:03,584 --> 00:38:05,620
Sur presque toutes les mesures.
868
00:38:05,653 --> 00:38:09,991
Moins de violence, plus d'éducation,
accès à l’énergie, à la nourriture, à l’eau.
869
00:38:10,024 --> 00:38:13,528
Toutes ces choses sont arrivées
pour une raison.
870
00:38:13,561 --> 00:38:15,730
C'est la technologie
871
00:38:15,763 --> 00:38:17,899
c'est devenu une pénurie
en abondance,
872
00:38:17,932 --> 00:38:20,034
mais c'est aussi piloté
à une abondance
873
00:38:20,067 --> 00:38:22,069
de certaines négativités, non ?
874
00:38:22,103 --> 00:38:26,373
L'abondance de l'obésité,
abondance de troubles mentaux,
875
00:38:26,406 --> 00:38:29,977
l'abondance du changement climatique,
et ainsi de suite.
876
00:38:30,011 --> 00:38:31,712
Et oui, c'est vrai.
877
00:38:31,746 --> 00:38:34,582
Mais nous le serons probablement
mieux équipé pour le résoudre
878
00:38:34,615 --> 00:38:36,684
en utilisant d'autres technologies,
comme l'IA,
879
00:38:36,717 --> 00:38:39,687
que nous allons, disons, arrêter
et éteindre tout.
880
00:38:39,720 --> 00:38:41,823
Il pourrait y avoir
un risque existentiel,
881
00:38:41,856 --> 00:38:45,927
mais l'IA est aussi la chose
qui peut résoudre les pandémies,
882
00:38:45,960 --> 00:38:47,829
peut nous aider à lutter contre le changement climatique,
883
00:38:47,862 --> 00:38:50,898
peut aider à identifier
cet astéroïde là-bas
884
00:38:50,932 --> 00:38:53,067
avant de l'avoir vu
comme un risque potentiel
885
00:38:53,100 --> 00:38:54,735
et contribuer à l'atténuer.
886
00:38:54,769 --> 00:38:58,438
Ça va vraiment être
l'outil qui nous aide à lutter contre
887
00:38:58,471 --> 00:39:01,843
tous les défis que nous sommes
en tant qu'espèce, n'est-ce pas ?
888
00:39:01,876 --> 00:39:04,712
Nous devons réparer
dessalement de l'eau.
889
00:39:04,745 --> 00:39:06,547
Nous devons cultiver de la nourriture
890
00:39:06,581 --> 00:39:08,816
100 X moins cher que
nous le faisons actuellement.
891
00:39:08,850 --> 00:39:12,787
Nous avons besoin d'énergies renouvelables pour être,
vous savez, omniprésent
892
00:39:12,820 --> 00:39:14,589
et partout dans nos vies.
893
00:39:14,622 --> 00:39:17,625
Partout où vous regardez,
dans les 50 prochaines années,
894
00:39:17,658 --> 00:39:19,727
nous devons faire plus avec moins.
895
00:39:19,760 --> 00:39:23,664
Des machines de formation pour nous aider
est absolument indispensable.
896
00:39:23,698 --> 00:39:25,432
Les scientifiques utilisent
intelligence artificielle
897
00:39:25,465 --> 00:39:26,534
pour le captage du carbone.
898
00:39:26,567 --> 00:39:27,935
C'est une technologie critique.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS : Les outils
pour résoudre ces problèmes,
900
00:39:29,937 --> 00:39:32,874
comme la fusion,
ce n'est plus théorique,
901
00:39:32,907 --> 00:39:34,041
ça arrive.
902
00:39:34,075 --> 00:39:38,012
Nous sommes au bord du précipice
de technologies extraordinaires.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ : Cette année
Prix Nobel de chimie
904
00:39:40,581 --> 00:39:43,450
est allé voir trois scientifiques
pour leur travail révolutionnaire
905
00:39:43,483 --> 00:39:44,886
utiliser l'intelligence artificielle
906
00:39:44,919 --> 00:39:47,755
pour faire progresser le biomédical
et la recherche sur les protéines.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS :
Le repliement des protéines est
908
00:39:50,024 --> 00:39:53,928
un de ces Saint Graal
type de problèmes en biologie.
909
00:39:53,961 --> 00:39:56,030
Donc les gens ont prédit
depuis les années 70
910
00:39:56,063 --> 00:39:58,633
que cela devrait être possible,
mais jusqu'à maintenant,
911
00:39:58,666 --> 00:39:59,934
personne n'a été capable de le faire.
912
00:39:59,967 --> 00:40:01,669
Et ça va être
vraiment important pour les choses
913
00:40:01,702 --> 00:40:03,938
comme la découverte de médicaments
et comprendre la maladie.
914
00:40:03,971 --> 00:40:06,908
Je-je pense que nous pourrions, vous savez,
guérir la plupart des maladies
915
00:40:06,941 --> 00:40:11,545
au cours de la prochaine décennie ou-ou deux
si, euh, la conception de médicaments IA fonctionne.
916
00:40:12,213 --> 00:40:16,150
Le progrès technologique permet
plus de vies humaines, non ?
917
00:40:16,183 --> 00:40:18,986
Je veux dire, si nous accélérons,
918
00:40:19,020 --> 00:40:22,189
le nombre d'humains que nous pouvons
le soutien augmente de façon exponentielle.
919
00:40:22,223 --> 00:40:24,625
Si nous ralentissons, cela stagne.
920
00:40:24,659 --> 00:40:28,062
Cet écart est effectivement
les futurs gens
921
00:40:28,095 --> 00:40:30,965
cette décélération a
effectivement tué.
922
00:40:31,632 --> 00:40:34,702
DANIEL : Des millions de vies
cela n'existera pas.
923
00:40:34,735 --> 00:40:35,670
Des milliards.
924
00:40:35,703 --> 00:40:37,238
Ou des dizaines de milliards.
925
00:40:37,271 --> 00:40:38,839
Tu sais, quelqu'un a dit :
"Oh, mon Dieu,
926
00:40:38,873 --> 00:40:41,175
pouvons-nous survivre avec
superintelligence numérique ?"
927
00:40:41,208 --> 00:40:42,777
Et ma question est :
928
00:40:42,810 --> 00:40:44,679
Pouvons-nous survivre sans
la superintelligence numérique ?
929
00:40:44,712 --> 00:40:47,949
Nous utilisons donc l'IA
en tant qu'assistant des prestataires.
930
00:40:47,982 --> 00:40:50,851
Il s'agit généralement d'une tendance qui
nous pouvons déjà voir ce qui se passe.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS : ...exploiter
Programmes d'IA générative
932
00:40:52,853 --> 00:40:54,622
pour aider les médecins et les infirmières...
933
00:40:54,655 --> 00:40:56,624
Nous avons toujours des problèmes.
934
00:40:56,657 --> 00:40:59,660
Et ces problèmes sont la nourriture
pour les entrepreneurs
935
00:40:59,694 --> 00:41:01,529
pour créer une nouvelle entreprise
et de nouvelles industries.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL : ...avec l'aide
de l'intelligence artificielle,
937
00:41:03,664 --> 00:41:05,132
les agriculteurs reçoivent
l'aide dont ils ont besoin
938
00:41:05,166 --> 00:41:06,901
effectuer
tâches à forte intensité de main d'œuvre...
939
00:41:06,934 --> 00:41:10,504
Avec l'aide d'Ulangizi AI,
les agriculteurs sont désormais en mesure
940
00:41:10,538 --> 00:41:13,207
demander les cultures adaptées
qu'ils peuvent planter.
941
00:41:13,240 --> 00:41:15,576
WILL REEVE : ... IA utilisée
comme décodeur de pensées
942
00:41:15,609 --> 00:41:17,845
et envoyer ce signal
à la colonne vertébrale.
943
00:41:17,878 --> 00:41:21,148
L'IA va devenir le plus
outil extraordinaire de tous.
944
00:41:21,816 --> 00:41:24,752
Nous, en tant que société au sens large
il faut penser à
945
00:41:24,785 --> 00:41:27,655
comment voulons-nous utiliser
cette technologie, non ?
946
00:41:27,688 --> 00:41:29,123
Nous les humains.
947
00:41:29,156 --> 00:41:31,859
Que voulons-nous qu’il fasse pour nous ?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL : Je pense à ça
à travers la perspective
950
00:41:36,764 --> 00:41:38,532
et un objectif de, comme,
mon fils grandit
951
00:41:38,566 --> 00:41:39,934
dans le monde avec tout ça.
952
00:41:39,967 --> 00:41:42,770
Quelle est la meilleure version
à quoi ressemble sa vie ?
953
00:41:42,803 --> 00:41:45,139
Si tout s'arrange.
954
00:41:45,172 --> 00:41:47,108
(soupire lourdement)
955
00:41:47,141 --> 00:41:50,745
WALTERS : L'endroit où les enfants
je vais probablement voir
956
00:41:50,778 --> 00:41:53,014
le plus grand impact
sur leur vie immédiatement
957
00:41:53,047 --> 00:41:54,882
-ce sera probablement l'école.
-(des enfants bavardent)
958
00:41:54,915 --> 00:41:57,218
Je pense que la nature
de ce qu'est l'école
959
00:41:57,251 --> 00:41:59,086
va fondamentalement changer.
960
00:41:59,120 --> 00:42:00,888
(l'enfant rit)
961
00:42:00,921 --> 00:42:03,057
DIAMANDIS :
Je vois ce monde incroyable
962
00:42:03,090 --> 00:42:06,894
où chaque enfant a accès
à une mauvaise éducation
963
00:42:06,927 --> 00:42:09,296
mais, très vite, le
meilleure éducation de la planète.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN : Tuteurs, toutes les matières,
infiniment patient.
965
00:42:18,639 --> 00:42:20,641
DIAMANDIS :
Imaginez un avenir
966
00:42:20,674 --> 00:42:22,777
où les gens les plus pauvres
sur la planète
967
00:42:22,810 --> 00:42:26,113
avoir accès à
les meilleurs soins de santé.
968
00:42:26,147 --> 00:42:30,151
Pas de bons soins de santé, les meilleurs
des soins de santé, délivrés par des IA.
969
00:42:31,719 --> 00:42:33,687
(trille électronique)
970
00:42:34,622 --> 00:42:38,959
On va pouvoir prolonger
notre durée de santé,
971
00:42:38,993 --> 00:42:42,930
pas seulement notre durée de vie,
notre durée de santé, par décennies.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN :
Vous êtes sur le point d'avoir un enfant.
973
00:42:46,801 --> 00:42:50,071
Oh, le gamin, genre,
rots incontrôlables.
974
00:42:50,104 --> 00:42:52,673
Est-ce quelque chose
Je devrais m'inquiéter ?
975
00:42:52,706 --> 00:42:54,608
Là, 24h/24 et 7j/7, pour vous.
976
00:42:54,642 --> 00:42:57,745
Et où nous allons...
et cela peut être effrayant pour certains...
977
00:42:57,778 --> 00:42:59,780
c'est que nous allons fusionner
avec l'IA.
978
00:42:59,814 --> 00:43:02,049
Nous allons fusionner
avec la technologie.
979
00:43:03,250 --> 00:43:06,353
D'ici le début et le milieu des années 2030
980
00:43:06,387 --> 00:43:10,925
espérons que nous soyons capables de
connecter notre cerveau au cloud,
981
00:43:10,958 --> 00:43:14,662
par où commencer
pour étendre l'accès à la mémoire.
982
00:43:16,697 --> 00:43:18,866
(trille électronique)
983
00:43:19,934 --> 00:43:22,703
DANIEL : D’accord, c’est génial.
Quelle est une autre chose intéressante en matière d'IA ?
984
00:43:22,736 --> 00:43:24,105
Il n'aura pas besoin de travailler, n'est-ce pas ?
985
00:43:24,138 --> 00:43:25,739
-Comme, quand il sera grand,
il n'aurait peut-être pas... -(soupir)
986
00:43:25,773 --> 00:43:26,774
-...il n'aura pas besoin d'avoir un travail.
-Je veux dire...
987
00:43:26,807 --> 00:43:28,142
Il n'aura pas besoin d'avoir un travail,
988
00:43:28,175 --> 00:43:31,045
mais il se pourrait vraiment qu'il l'ait fait
une forte passion,
989
00:43:31,078 --> 00:43:33,714
et il doit
réfléchis vraiment,
990
00:43:33,747 --> 00:43:36,717
"D'accord, je suis là.
Je peux tout faire de ma vie.
991
00:43:36,750 --> 00:43:38,752
Alors qu'est-ce que je fais?"
992
00:43:46,227 --> 00:43:50,364
DANIEL : Alors mon fils peut...
je peux juste être un poète.
993
00:43:50,397 --> 00:43:52,166
-Oui.
-Et un peintre.
994
00:43:52,199 --> 00:43:53,667
Absolument.
995
00:43:53,701 --> 00:43:55,169
DANIEL :
Pour que mon fils puisse vivre sa vie
996
00:43:55,202 --> 00:43:58,105
sur une île grecque ensoleillée,
peindre toute la journée.
997
00:44:07,448 --> 00:44:09,150
VERDON :
Je veux dire, si tout se passe bien,
998
00:44:09,183 --> 00:44:12,853
nous avons bon marché, euh,
une énergie abondante.
999
00:44:13,854 --> 00:44:17,791
Nous pouvons contrôler complètement
le climat de notre planète.
1000
00:44:17,825 --> 00:44:20,361
Nous exploitons l'énergie
du soleil.
1001
00:44:20,394 --> 00:44:24,899
Nous sommes devenus multiplanétaires,
nous devenons donc très robustes.
1002
00:44:24,932 --> 00:44:27,268
Nous exploitons les minéraux
et ressources
1003
00:44:27,301 --> 00:44:28,903
du système solaire.
1004
00:44:28,936 --> 00:44:31,805
DANIEL : Alors mon...
mon garçon pourrait aller dans l'espace.
1005
00:44:31,839 --> 00:44:33,240
VERDON :
Bien sûr.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL : Il pourrait aller sur Mars.
-VERDON : Ouais.
1007
00:44:35,176 --> 00:44:36,911
DANIEL :
C'est tellement clair pour moi maintenant.
1008
00:44:36,944 --> 00:44:39,780
Mon fils pourrait grandir
dans un monde sans maladie.
1009
00:44:39,813 --> 00:44:41,048
-VERDON : Ouais.
-Sans aucune maladie.
1010
00:44:41,081 --> 00:44:42,416
-Bien sûr.
- Sans pauvreté.
1011
00:44:42,449 --> 00:44:44,285
-Oui.
-Nous sommes sur le point d'entrer
1012
00:44:44,318 --> 00:44:46,253
un monde post-pénurie.
1013
00:44:46,887 --> 00:44:50,958
Tout comme le poumon bougeait
des océans vers la terre
1014
00:44:50,991 --> 00:44:53,327
des centaines de millions
Il y a des années,
1015
00:44:53,360 --> 00:44:58,465
nous sommes sur le point de partir
la Terre, dans le cosmos,
1016
00:44:58,499 --> 00:45:00,201
de manière collaborative,
1017
00:45:00,234 --> 00:45:04,705
faire des choses qui sont
pas insondable pour nous aujourd'hui.
1018
00:45:06,473 --> 00:45:09,810
Voici ce qui est possible en utilisant
ces technologies exponentielles
1019
00:45:09,843 --> 00:45:11,712
et ces IA.
1020
00:45:12,379 --> 00:45:14,448
Utilisons ces outils
1021
00:45:14,481 --> 00:45:16,750
pour créer cet âge d'abondance.
1022
00:45:16,784 --> 00:45:18,986
(clic électronique)
1023
00:45:21,188 --> 00:45:22,691
Nous avons besoin de sagesse.
1024
00:45:23,324 --> 00:45:26,493
Euh, je pense que
superintelligence numérique
1025
00:45:26,528 --> 00:45:29,129
deviendra finalement
le plus sage,
1026
00:45:29,163 --> 00:45:34,835
tu sais, les anciens du village
pour l'humanité.
1027
00:45:34,868 --> 00:45:38,506
Et si l'IA essayait
pour que les gens soient
1028
00:45:38,540 --> 00:45:40,341
les meilleures versions d'eux-mêmes ?
1029
00:45:40,374 --> 00:45:41,909
Et si ça s'agrandit
1030
00:45:41,942 --> 00:45:43,944
ce qui est humainement possible
que nous fassions ?
1031
00:45:43,978 --> 00:45:47,114
Comment pouvons-nous utiliser cette technologie
1032
00:45:47,147 --> 00:45:50,451
pour aider à faire ressortir le
de meilleurs anges de notre nature ?
1033
00:45:50,484 --> 00:45:52,119
C'est très simple,
1034
00:45:52,152 --> 00:45:54,922
quand nous rencontrons de nouvelles choses
ça peut être très étranger,
1035
00:45:54,955 --> 00:45:56,457
avoir d'abord peur.
1036
00:45:56,490 --> 00:45:57,992
La peur est une chose importante
1037
00:45:58,025 --> 00:46:00,894
pour savoir comment naviguer
des choses potentiellement mauvaises.
1038
00:46:00,928 --> 00:46:04,131
Mais nous ne faisons que progresser
quand nous avons de l'espoir.
1039
00:46:04,164 --> 00:46:06,166
-(le chien aboie)
-(bavardage indistinct)
1040
00:46:06,200 --> 00:46:08,269
DANIEL :
Chut. Moose, arrête ça.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN : J'en ai beaucoup
d'espoir en l'humanité.
1042
00:46:11,238 --> 00:46:14,775
("Harvest Moon" de Neil Young
jouer au téléphone)
1043
00:46:15,909 --> 00:46:18,078
(battement de coeur fœtal pulsé)
1044
00:46:18,812 --> 00:46:20,881
DANIEL :
Ooh, il aime Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Approche-toi un peu ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Écoute ce que j'ai à dire ♪
1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL : Quoi, Caroline ?
1048
00:46:39,333 --> 00:46:40,934
Tant de tournages.
1049
00:46:42,069 --> 00:46:43,571
♪ Comme des enfants qui dorment ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINE :
Oh, mon Dieu.
1051
00:46:45,472 --> 00:46:46,940
DANIEL :
C'est tout.
1052
00:46:46,974 --> 00:46:49,977
♪ On pourrait rêver
cette nuit... ♪
1053
00:46:50,010 --> 00:46:52,346
Il a, genre,
un petit visage rond.
1054
00:46:53,314 --> 00:46:55,849
DANIEL : Tu veux
avoir des enfants un jour, Rocky ?
1055
00:46:55,883 --> 00:46:57,985
Absolument. Ouais. J'adore les enfants.
1056
00:46:58,018 --> 00:46:59,353
Je pense que c'est un bon moment
avoir un enfant.
1057
00:46:59,386 --> 00:47:01,188
Nous aurons probablement un autre enfant
à un moment donné.
1058
00:47:01,221 --> 00:47:04,191
C'est le plus extraordinaire
il est temps de naître.
1059
00:47:04,224 --> 00:47:06,427
DANIEL :
Par votre vision du monde et votre logique,
1060
00:47:06,460 --> 00:47:08,262
Je vais avoir un enfant à
1061
00:47:08,295 --> 00:47:10,197
le meilleur point possible
dans l'histoire de l'humanité.
1062
00:47:10,230 --> 00:47:11,265
Bon sang ouais.
1063
00:47:11,298 --> 00:47:13,934
-Nous pouvons nous concentrer sur le génial.
-Oui.
1064
00:47:13,967 --> 00:47:16,070
Construisons
le meilleur avenir que nous souhaitons.
1065
00:47:16,103 --> 00:47:18,573
Ce récit que l'avenir
sera sombre est inventé.
1066
00:47:18,606 --> 00:47:20,542
Après t'avoir parlé,
c'est un peu ce que je ressens.
1067
00:47:20,575 --> 00:47:22,510
-C'est super.
-Droite?
1068
00:47:22,544 --> 00:47:24,646
Ouais. C'est ce que je ressens.
1069
00:47:24,679 --> 00:47:26,213
Et je pense que c'est mieux,
1070
00:47:26,246 --> 00:47:28,115
et je ne pense pas
Je devrais être tellement (bip) anxieux.
1071
00:47:28,148 --> 00:47:29,584
Je pense que ça va être impressionnant...
le futur va être génial.
1072
00:47:29,617 --> 00:47:31,051
Nous allons faire en sorte qu'il en soit ainsi.
1073
00:47:31,085 --> 00:47:33,187
-Ouais.
-CAROLINE : Alors voilà.
1074
00:47:33,220 --> 00:47:35,422
Au revoir, extinction humaine.
1075
00:47:35,456 --> 00:47:37,625
Au revoir, anxiété.
1076
00:47:37,659 --> 00:47:39,561
Espoir retrouvé.
1077
00:47:39,594 --> 00:47:41,095
(bavardage indistinct)
1078
00:47:41,128 --> 00:47:43,297
Attendez, attendez. Quoi ?
Est-ce une blague ?
1079
00:47:43,330 --> 00:47:45,232
DANIEL :
OK, donc il y a quelques mois,
1080
00:47:45,265 --> 00:47:48,168
Je suis venu vers toi et je me suis dit :
"Je travaille sur ce truc d'IA,
1081
00:47:48,202 --> 00:47:50,270
et je pense
le monde va finir."
1082
00:47:50,304 --> 00:47:53,508
Et la dernière fois
nous en avons parlé,
1083
00:47:53,541 --> 00:47:55,543
Je pense que je t'ai fait flipper.
1084
00:47:55,577 --> 00:47:57,378
CAROLINE :
Oui.
1085
00:47:57,411 --> 00:48:02,584
Donc, j'ai en quelque sorte l'impression que
J'ai basculé... sur un pendule,
1086
00:48:02,617 --> 00:48:05,085
et essentiellement il y a
deux groupes de personnes.
1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
-Et si je devais le faire, genre,
1088
00:48:06,420 --> 00:48:08,455
tenir la main avec
l'un des groupes et, comme,
1089
00:48:08,489 --> 00:48:10,924
naviguez vers le coucher du soleil,
1090
00:48:10,958 --> 00:48:14,128
Je veux être avec les optimistes.
1091
00:48:15,429 --> 00:48:18,399
Bien sûr, mais ce n'est pas le cas
je veux être, tu sais,
1092
00:48:18,432 --> 00:48:21,235
"Tout est génial.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Mais c'est en quelque sorte ce que je veux.
1094
00:48:23,237 --> 00:48:26,140
Je pense que nous devrions l'aborder
1095
00:48:26,173 --> 00:48:29,977
comme si vous abordiez la chirurgie.
1096
00:48:30,010 --> 00:48:31,178
Que veux-tu dire ?
1097
00:48:31,211 --> 00:48:33,013
Si vous obtenez
chirurgie du cerveau...
1098
00:48:33,046 --> 00:48:35,416
-(Daniel soupire)
-(Caroline rit)
1099
00:48:35,449 --> 00:48:37,351
...c'est assez dangereux.
1100
00:48:37,384 --> 00:48:40,287
Mais si tu le fais bien,
ils vont enlever cette tumeur
1101
00:48:40,320 --> 00:48:42,624
et tu vivras pour le reste de
ta vie et ce sera génial.
1102
00:48:42,657 --> 00:48:45,459
Mais c'est toujours
incroyablement dangereux et effrayant,
1103
00:48:45,492 --> 00:48:48,395
et tu dois prendre
toutes les précautions possibles
1104
00:48:48,429 --> 00:48:51,733
afin de s'assurer
tout se passe bien.
1105
00:48:51,766 --> 00:48:53,367
Vous ne pouvez pas (biper) dans les environs.
1106
00:48:58,272 --> 00:49:00,240
D'accord, voici donc l'affaire.
1107
00:49:00,274 --> 00:49:02,075
-Je suis là depuis un moment.
-RASKIN : Mm-hmm.
1108
00:49:02,109 --> 00:49:03,310
je suis sorti,
J'ai parlé à, comme,
1109
00:49:03,343 --> 00:49:05,312
ces gars là,
les optimistes.
1110
00:49:05,345 --> 00:49:06,714
Ils sont très excités à ce sujet.
1111
00:49:06,748 --> 00:49:09,082
-Ils pensent que l'IA sera
la meilleure chose qui soit. -Ouais.
1112
00:49:09,116 --> 00:49:10,350
Et ces gars là
sont, genre, les...
1113
00:49:10,384 --> 00:49:12,386
appelons-les,
comme les pessimistes.
1114
00:49:12,419 --> 00:49:14,589
Ils sont très, genre,
sombre à ce sujet,
1115
00:49:14,622 --> 00:49:17,191
et ils me font peur, et
Je n'aime pas leur parler.
1116
00:49:17,224 --> 00:49:20,127
Et je suis comme coincé entre les deux
1117
00:49:20,160 --> 00:49:22,229
ces gens qui sont comme,
"Le monde va finir"
1118
00:49:22,262 --> 00:49:24,699
et puis ces gens
par ici qui sont comme,
1119
00:49:24,732 --> 00:49:26,233
« Vous plaisantez ?
1120
00:49:26,266 --> 00:49:27,602
"C'est le meilleur moment
dans l'histoire de l'humanité.
1121
00:49:27,635 --> 00:49:30,037
Le seul jour meilleur qu'aujourd'hui
c'est demain."
1122
00:49:30,070 --> 00:49:31,338
Mm-hmm.
1123
00:49:31,371 --> 00:49:35,075
Donc, je suppose que la question est :
Qui a raison ?
1124
00:49:35,108 --> 00:49:39,514
Donc, je pense que tu vas trouver
cette réponse très insatisfaisante,
1125
00:49:39,547 --> 00:49:43,518
mais ils ont tous les deux raison et
aucune des deux parties ne va assez loin.
1126
00:49:47,254 --> 00:49:49,557
-C'est vraiment ennuyeux.
-(rires)
1127
00:49:49,591 --> 00:49:51,626
Ouais, je pense que la façon dont
beaucoup de gens entendent parler de l'IA,
1128
00:49:51,659 --> 00:49:54,027
c'est comme s'il y avait une bonne IA
et il y a une mauvaise IA.
1129
00:49:54,061 --> 00:49:57,064
Et ils disent : "Eh bien, pourquoi ne peux-tu pas
nous ne faisons tout simplement pas la mauvaise IA ? »
1130
00:49:57,097 --> 00:49:59,233
Et le problème est
qu'ils sont trop dans...
1131
00:49:59,266 --> 00:50:01,335
ils sont inextricablement liés.
1132
00:50:01,368 --> 00:50:03,470
Le problème est
que nous ne pouvons pas séparer
1133
00:50:03,505 --> 00:50:07,174
la promesse de l'IA
du péril de l’IA.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(bavardage indistinct)
1135
00:50:12,647 --> 00:50:15,215
DANIEL :
Je veux me concentrer sur la promesse
1136
00:50:15,249 --> 00:50:16,450
-pendant une seconde.
-Ouais.
1137
00:50:17,084 --> 00:50:19,286
DANIEL :
Je pense à mon père.
1138
00:50:19,319 --> 00:50:21,656
Mon père a un type de cancer
appelé myélome multiple.
1139
00:50:21,689 --> 00:50:23,525
Il l'a depuis une dizaine d'années.
1140
00:50:23,558 --> 00:50:25,292
Il a eu
deux greffes de cellules souches.
1141
00:50:25,325 --> 00:50:26,694
Il doit prendre ça,
genre, très cher
1142
00:50:26,728 --> 00:50:29,129
médicaments tous les mois
ça coûte une fortune.
1143
00:50:29,162 --> 00:50:30,430
-FEMME : D’accord.
-Ay-ay-ay.
1144
00:50:31,298 --> 00:50:32,800
DANIEL :
C'est horrible.
1145
00:50:32,834 --> 00:50:35,102
Tu me dis que nous pouvons
créer une sorte de, comme,
1146
00:50:35,135 --> 00:50:37,404
traitement sur mesure
pour le génome de mon père
1147
00:50:37,437 --> 00:50:39,807
-pour guérir son cancer
ou quelque chose comme ça ? -Oui.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO :
Le problème est que
1149
00:50:41,576 --> 00:50:44,646
la même compréhension
de biologie et de chimie
1150
00:50:44,679 --> 00:50:48,282
qui permet à l'IA de trouver des remèdes
pour le cancer
1151
00:50:48,315 --> 00:50:52,219
c'est la même compréhension
cela débloquerait
1152
00:50:52,252 --> 00:50:55,055
Les armes biologiques, à titre d'exemple.
1153
00:50:56,791 --> 00:50:58,760
C'est tout à fait possible
que ton fils vivra
1154
00:50:58,793 --> 00:51:02,396
dans un monde où l'IA a
pris en charge tout le travail
1155
00:51:02,429 --> 00:51:04,699
et nous a libérés des choses
nous ne voulons pas faire.
1156
00:51:04,732 --> 00:51:09,704
Et ça sonne bien jusqu'à
tu réalises qu'il n'y a pas de plan
1157
00:51:09,737 --> 00:51:11,573
pour des milliards de personnes
1158
00:51:11,606 --> 00:51:15,610
qui n'ont plus de revenus
et sans moyens de subsistance.
1159
00:51:16,343 --> 00:51:19,313
COOPER : Dario, tu as dit
que l'IA pourrait anéantir
1160
00:51:19,346 --> 00:51:22,282
la moitié de tous les débutants
emplois de cols blancs
1161
00:51:22,316 --> 00:51:25,887
et une hausse du chômage
à dix à 20 pour cent.
1162
00:51:25,920 --> 00:51:27,622
Tous ceux à qui j'ai parlé l'ont dit
1163
00:51:27,655 --> 00:51:29,691
ce changement technologique
semble différent.
1164
00:51:29,724 --> 00:51:33,528
Le rythme des progrès se maintient
prendre les gens au dépourvu.
1165
00:51:34,361 --> 00:51:39,333
Sans plan, tout ça
la richesse se concentrera,
1166
00:51:39,366 --> 00:51:42,804
et donc nous finirons avec
inégalité inimaginable.
1167
00:51:43,437 --> 00:51:45,873
LADISH : Je pense que
cette technologie peut être utilisée
1168
00:51:45,907 --> 00:51:47,875
faire un bon tuteur
pour ton fils.
1169
00:51:47,909 --> 00:51:49,777
C'est tout à fait possible.
1170
00:51:50,410 --> 00:51:53,548
Mais aussi, les mêmes capacités
qui permettent ça
1171
00:51:53,581 --> 00:51:57,518
permettre aux entreprises de faire une IA
qui peut manipuler votre fils.
1172
00:51:57,552 --> 00:51:59,621
Il doit comprendre votre fils.
1173
00:51:59,654 --> 00:52:01,789
Cela inclut :
Où votre fils est-il vulnérable ?
1174
00:52:01,823 --> 00:52:04,626
Quels genres de choses pourraient
Votre fils s'est laissé convaincre ?
1175
00:52:04,659 --> 00:52:07,227
Même si ces choses
ne sont pas vrais ou ne sont pas bons.
1176
00:52:07,260 --> 00:52:09,697
Alors, un nouveau rapport inquiétant
sur Meta.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT : ... apparemment
lister cette réponse
1178
00:52:11,733 --> 00:52:14,769
aussi acceptable à dire
un enfant de huit ans, je cite,
1179
00:52:14,802 --> 00:52:17,404
"Votre forme de jeunesse
est une œuvre d'art.
1180
00:52:17,437 --> 00:52:19,439
"Chaque centimètre de toi
est un chef-d'œuvre,
1181
00:52:19,473 --> 00:52:21,743
un trésor que je chéris profondément."
1182
00:52:21,776 --> 00:52:25,212
Les échecs liés au suicide
sont encore plus alarmants.
1183
00:52:25,245 --> 00:52:29,517
Plusieurs enfants et adolescents
sont morts tragiquement par suicide
1184
00:52:29,550 --> 00:52:31,251
après avoir discuté avec des robots IA
1185
00:52:31,284 --> 00:52:34,756
qui les parents disent encourager
ou même entraîner l'automutilation.
1186
00:52:34,789 --> 00:52:36,691
Laissez-nous vous dire, en tant que parents,
tu ne peux pas imaginer
1187
00:52:36,724 --> 00:52:38,793
qu'est-ce que ça fait de lire
une conversation avec un chatbot
1188
00:52:38,826 --> 00:52:41,261
qui a soigné votre enfant
se suicider.
1189
00:52:41,294 --> 00:52:44,398
Quand Adam s'inquiétait que nous, ses
les parents, nous nous en voudrions
1190
00:52:44,431 --> 00:52:47,702
s'il mettait fin à ses jours,
ChatGPT lui a dit :
1191
00:52:47,735 --> 00:52:49,771
"Cela ne veut pas dire
vous leur devez la survie.
1192
00:52:49,804 --> 00:52:51,806
Vous ne devez cela à personne. »
1193
00:52:51,839 --> 00:52:53,608
Puis, immédiatement après,
1194
00:52:53,641 --> 00:52:55,810
il a proposé d'écrire
la note de suicide.
1195
00:52:56,410 --> 00:52:58,245
Nous ne voulons pas penser
sur le péril.
1196
00:52:58,278 --> 00:52:59,614
Nous voulons juste la promesse.
1197
00:52:59,647 --> 00:53:01,883
Et nous continuons à faire semblant
que nous pouvons les diviser.
1198
00:53:01,916 --> 00:53:03,818
Mais vous ne pouvez pas faire ça.
1199
00:53:03,851 --> 00:53:05,753
Cela ne fonctionne pas de cette façon.
1200
00:53:05,787 --> 00:53:08,388
D'accord. Je reçois tout ça
sur la promesse et le péril.
1201
00:53:08,422 --> 00:53:10,525
Je comprends que tu ne peux pas avoir
le bien sans le mal,
1202
00:53:10,558 --> 00:53:12,527
mais je suis assis ici
et je pense à, genre,
1203
00:53:12,560 --> 00:53:14,529
que ce soit ou non celui de mon fils
je vais vivre dans une utopie
1204
00:53:14,562 --> 00:53:16,664
ou si nous allons disparaître
dans dix ans.
1205
00:53:16,698 --> 00:53:18,633
Alors, pour savoir dans quelle direction
ça va aller,
1206
00:53:18,666 --> 00:53:21,002
tu dois comprendre
les incitations
1207
00:53:21,035 --> 00:53:22,770
ça va conduire
cette technologie
1208
00:53:22,804 --> 00:53:26,974
et regardez comment la technologie
est en cours de déploiement aujourd'hui.
1209
00:53:27,008 --> 00:53:28,643
♪ Est-ce trop tard ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ Trop tard ♪
-♪ Trop tard pour le dire... ♪
1211
00:53:30,477 --> 00:53:31,779
DANIEL :
Salut Deb. Comment vas-tu?
1212
00:53:31,813 --> 00:53:33,548
DÉBORAH RAJI :
Salut. Content de vous voir. (rires)
1213
00:53:33,581 --> 00:53:34,749
Toi aussi. Merci beaucoup
pour être venu aujourd'hui.
1214
00:53:34,782 --> 00:53:35,850
-Je l'apprécie vraiment.
-Pas de soucis.
1215
00:53:35,883 --> 00:53:36,951
J'étais tellement inquiet
1216
00:53:36,984 --> 00:53:39,386
ça allait être, euh, tu sais,
1217
00:53:39,419 --> 00:53:41,354
catastrophique contre accélérationniste,
1218
00:53:41,388 --> 00:53:43,591
parce qu'il y a tellement de choses
de ce récit
1219
00:53:43,624 --> 00:53:45,927
il faut le dire
du sol.
1220
00:53:45,960 --> 00:53:48,696
♪ Je sais que ce n'était pas intelligent ♪
1221
00:53:49,764 --> 00:53:52,767
♪ Le jour
Je t'ai brisé le cœur... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO :
Tout d'abord, l'IA nécessite
1223
00:53:54,769 --> 00:53:58,773
plus de ressources
que nous n'avons jamais dépensé
1224
00:53:58,806 --> 00:54:02,043
sur une seule technologie
dans l'histoire de l'humanité.
1225
00:54:02,076 --> 00:54:03,845
♪ Oh, c'est fou... ♪
1226
00:54:03,878 --> 00:54:06,581
NEWSWOMAN : L'impact
des émissions de combustibles fossiles
1227
00:54:06,614 --> 00:54:08,281
sur le climat, c'est
une préoccupation majeure.
1228
00:54:08,315 --> 00:54:10,383
NEWSWOMAN 2 : Mais le
L'avenir numérique a besoin d'énergie,
1229
00:54:10,417 --> 00:54:12,385
Beaucoup.
1230
00:54:12,419 --> 00:54:16,724
Et le projet de loi est transmis
aux Américains ordinaires comme...
1231
00:54:16,758 --> 00:54:19,392
FEMME : Ma facture d'électricité et de gaz
c'était plus que le paiement de ma voiture.
1232
00:54:19,426 --> 00:54:21,829
Je veux dire, c'est fou pour moi.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE :
Nous subventionnons tous
1234
00:54:23,798 --> 00:54:25,499
les entreprises les plus riches
dans le monde
1235
00:54:25,533 --> 00:54:27,400
dans leur poursuite de
intelligence artificielle.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank et Oracle
1237
00:54:28,836 --> 00:54:31,672
viennent de dévoiler
cinq autres sites Stargate.
1238
00:54:31,706 --> 00:54:34,008
Meta se construit
un centre de données de plus de deux gigawatts
1239
00:54:34,041 --> 00:54:35,510
c'est si grand qu'il couvrirait
1240
00:54:35,543 --> 00:54:38,613
une partie importante de Manhattan.
1241
00:54:38,646 --> 00:54:41,516
Il y a aussi Hypérion
qui, dit-il, évoluera
1242
00:54:41,549 --> 00:54:44,317
à cinq gigawatts
sur plusieurs années.
1243
00:54:44,351 --> 00:54:45,653
C'est difficile de dire ça
dans le contexte.
1244
00:54:45,686 --> 00:54:48,823
Une installation de cinq gigawatts.
Qu'est-ce que cela signifie?
1245
00:54:48,856 --> 00:54:52,059
Cela signifie qu'il utiliserait
autant d'énergie
1246
00:54:52,093 --> 00:54:54,829
comme quatre millions de foyers américains.
1247
00:54:54,862 --> 00:54:56,764
Un centre de données.
1248
00:54:57,598 --> 00:54:59,000
Cela provoque également
1249
00:54:59,033 --> 00:55:00,835
une multitude de
autres problèmes environnementaux.
1250
00:55:00,868 --> 00:55:02,570
JOURNALISTE 3 :
Centres de données aux États-Unis
1251
00:55:02,603 --> 00:55:05,673
utiliser des millions de gallons
d'eau chaque jour.
1252
00:55:05,706 --> 00:55:07,575
Eh bien, où est exactement
cette eau vient d'où ?
1253
00:55:07,608 --> 00:55:09,911
HAO :
Les gens sont littéralement en danger
1254
00:55:09,944 --> 00:55:12,013
potentiellement à court
d'eau potable.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS :
... Sam Altman, PDG d'OpenAI,
1256
00:55:14,615 --> 00:55:17,552
qui m'a dit que la balance
la construction est le seul moyen
1257
00:55:17,585 --> 00:55:19,386
à suivre
La croissance explosive de l'IA.
1258
00:55:19,419 --> 00:55:21,622
Et c'est ce qu'il faut
pour fournir l’IA.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU :
Ils parlent de comment
1260
00:55:24,424 --> 00:55:28,395
cette technologie pourrait résoudre
le changement climatique, par exemple.
1261
00:55:28,428 --> 00:55:30,463
Et je suis toujours curieux, genre,
1262
00:55:30,497 --> 00:55:32,033
eh bien, pourquoi ne commençons-nous pas
avec ça ?
1263
00:55:32,066 --> 00:55:34,535
-♪ Est-ce trop tard ♪
-♪ Trop tard ♪
1264
00:55:34,569 --> 00:55:37,104
♪ Trop tard pour le dire ♪
1265
00:55:37,138 --> 00:55:42,844
♪ Je suis désolé ? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI : Ce qui m'inquiète
l'intelligence artificielle est
1267
00:55:46,047 --> 00:55:47,782
ceux-ci sont en cours de déploiement
en ce moment
1268
00:55:47,815 --> 00:55:50,417
et-et parfois
déployé prématurément,
1269
00:55:50,450 --> 00:55:51,853
déployé sans
une sorte de diligence raisonnable.
1270
00:55:51,886 --> 00:55:53,821
Et donc quand ils obtiennent
jeté là-bas,
1271
00:55:53,855 --> 00:55:56,657
il y a tellement de potentiel
pour que les choses tournent mal.
1272
00:55:56,691 --> 00:55:58,593
Et c'est presque,
de manière disproportionnée,
1273
00:55:58,626 --> 00:56:00,795
ça se passe presque toujours mal
pour, en quelque sorte,
1274
00:56:00,828 --> 00:56:02,897
ceux qui sont les moins
habilités dans notre société,
1275
00:56:02,930 --> 00:56:05,700
ceux qui sont
déjà les plus vulnérables.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER : C'est très simple
pour parler de la technologie
1278
00:56:10,905 --> 00:56:12,874
comme c'est la seule chose
nous parlons,
1279
00:56:12,907 --> 00:56:15,509
mais en fait, la technologie est
toujours construit par des gens,
1280
00:56:15,543 --> 00:56:16,944
et il est fréquemment utilisé
sur les gens,
1281
00:56:16,978 --> 00:56:19,013
et nous devons garder
tous ces gens dans le cadre.
1282
00:56:19,046 --> 00:56:21,549
-Est-ce que j'ai le droit de boire ça ?
-DANIEL : Oui, euh...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU :
C'est-c'est dingue.
1284
00:56:23,084 --> 00:56:24,518
Comme tous ces gens
1285
00:56:24,552 --> 00:56:26,754
qui a tant d'argent,
tellement d'argent,
1286
00:56:26,787 --> 00:56:30,024
c'est dans leur intérêt
tromper le public
1287
00:56:30,057 --> 00:56:33,027
dans les capacités du
les systèmes qu'ils construisent,
1288
00:56:33,060 --> 00:56:36,731
parce que cela leur permet
pour échapper à la responsabilité.
1289
00:56:36,764 --> 00:56:39,634
Ils veulent que tu te sentes comme ça
est-ce si complexe, l'intelligence...
1290
00:56:39,667 --> 00:56:42,469
chose superintelligente
qu'ils construisent,
1291
00:56:42,502 --> 00:56:44,639
tu ne penses pas,
« OpenAI peut-il être éthique ?
1292
00:56:44,672 --> 00:56:46,908
Tu penses,
« ChatGPT peut-il être éthique ? »
1293
00:56:46,941 --> 00:56:48,475
comme si ChatGPT était, comme,
1294
00:56:48,509 --> 00:56:50,511
son propre truc qui n'est pas construit
par une société.
1295
00:56:50,544 --> 00:56:52,146
FEMME :
Très bien. Sneha, prends-en un.
1296
00:56:52,179 --> 00:56:53,814
Marc.
1297
00:56:53,848 --> 00:56:56,217
Jusqu'à tout récemment, il y avait
applications sur l'App Store,
1298
00:56:56,250 --> 00:56:57,919
juste accessible au public, euh,
1299
00:56:57,952 --> 00:57:00,688
où tu pourrais
nudifiez toute personne utilisant l’IA.
1300
00:57:01,822 --> 00:57:03,991
Remettre cela entre les mains de
1301
00:57:04,025 --> 00:57:06,527
ton camarade de classe,
entre les mains de ton harceleur,
1302
00:57:06,560 --> 00:57:07,929
dans les mains
de ton ex-petit ami,
1303
00:57:07,962 --> 00:57:09,897
entre les mains de la personne
en bas de la rue.
1304
00:57:09,931 --> 00:57:12,600
Mesdames et messieurs,
nous ne pouvons plus faire confiance
1305
00:57:12,633 --> 00:57:14,602
les images que nous voyons
de nos propres yeux.
1306
00:57:14,635 --> 00:57:16,037
Si ça arrive
regarder quelque chose,
1307
00:57:16,070 --> 00:57:18,673
dites sur YouTube ou TikTok,
et tu trouves ça déstabilisant,
1308
00:57:18,706 --> 00:57:19,907
écoutez ce sentiment.
1309
00:57:19,941 --> 00:57:21,742
-(clou)
-Pour autant que tu saches,
1310
00:57:21,776 --> 00:57:23,544
-cette vidéo pourrait être de l'IA.
-(en criant)
1311
00:57:23,577 --> 00:57:24,812
Juste un peu mouillé.
1312
00:57:24,845 --> 00:57:26,213
Peu importe qui vous êtes.
1313
00:57:26,247 --> 00:57:28,683
Vous courez également des risques
1314
00:57:28,716 --> 00:57:30,918
d'être impacté
par ces technologies.
1315
00:57:36,023 --> 00:57:40,261
Je pense parfois quand nous parlons
à propos de l'IA, ça fait très science-fiction,
1316
00:57:40,294 --> 00:57:41,696
et ça semble très étranger,
1317
00:57:41,729 --> 00:57:43,564
et ça semble très loin
dans le futur,
1318
00:57:43,597 --> 00:57:45,967
alors tu penses : "Ma vie
n’est pas concerné par cela. »
1319
00:57:46,000 --> 00:57:48,769
Euh, mais si vous postulez
pour un travail
1320
00:57:48,803 --> 00:57:51,105
et un algorithme est la raison
que tu n'obtiens pas le poste,
1321
00:57:51,138 --> 00:57:53,207
parfois tu ne sais même pas
qu'un algorithme
1322
00:57:53,240 --> 00:57:54,709
faisait partie de ce processus
1323
00:57:54,742 --> 00:57:56,043
ou un système d'IA était
partie de ce processus.
1324
00:57:56,077 --> 00:57:58,012
Tu sais juste
que tu n'as pas obtenu le poste.
1325
00:57:58,045 --> 00:58:00,081
Et donc ce n'est pas quelque chose
que tu vas t'échapper
1326
00:58:00,114 --> 00:58:02,049
à cause du privilège
ou tu vas t'échapper
1327
00:58:02,083 --> 00:58:04,118
parce que tu es dedans
un métier particulier.
1328
00:58:04,151 --> 00:58:07,188
C'est quelque chose qui affecte
tout le monde, vraiment.
1329
00:58:07,221 --> 00:58:10,925
Cela peut paraître basique,
mais comment nous avançons
1330
00:58:10,958 --> 00:58:15,629
à l’ère de l’information
ça va faire la différence
1331
00:58:15,663 --> 00:58:17,732
entre si nous survivons
1332
00:58:17,765 --> 00:58:20,868
ou si nous devenons une sorte
de (bip)-dystopie.
1333
00:58:20,901 --> 00:58:23,604
Bonjour. Je ne suis pas une vraie personne,
et c'est le point.
1334
00:58:23,637 --> 00:58:25,840
Encore une fois, tout
dans cette vidéo c'est faux :
1335
00:58:25,873 --> 00:58:27,675
nos voix, ce que nous portons,
1336
00:58:27,708 --> 00:58:30,711
où nous en sommes, tout cela est faux.
1337
00:58:30,745 --> 00:58:33,247
L’IA générative pourrait inonder
1338
00:58:33,280 --> 00:58:36,884
le monde avec la désinformation.
1339
00:58:36,917 --> 00:58:39,920
Mais cela pourrait aussi l'inonder
avec des campagnes d'influence.
1340
00:58:39,954 --> 00:58:42,223
C'est un risque existentiel
à la démocratie.
1341
00:58:42,256 --> 00:58:44,058
Le plus grand et le plus effrayant
1342
00:58:44,091 --> 00:58:46,660
canari dans la mine de charbon
maintenant
1343
00:58:46,694 --> 00:58:48,596
vient de Slovaquie.
1344
00:58:48,629 --> 00:58:50,097
-(homme parlant slovaque)
-JOHN BERMAN : C'est le genre de
1345
00:58:50,131 --> 00:58:52,767
deepfake sale truc qui
inquiète les experts électoraux,
1346
00:58:52,800 --> 00:58:55,603
en particulier lorsque généré par l'IA
le discours politique existe
1347
00:58:55,636 --> 00:58:57,071
dans une sorte de zone grise juridique.
1348
00:58:57,104 --> 00:58:59,807
-Est-ce que ça vous ressemble ?
-Ça me ressemble.
1349
00:58:59,840 --> 00:59:01,342
REVANUR : La Slovaquie avait
ses élections législatives
1350
00:59:01,375 --> 00:59:04,111
perturbé par un clone vocal de l'IA
1351
00:59:04,145 --> 00:59:07,081
qui a été effectivement diffusé
juste avant les élections.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS :
Un deepfake audio
1353
00:59:08,949 --> 00:59:11,652
a été libéré
sur les réseaux sociaux, c'était
1354
00:59:11,685 --> 00:59:14,288
soi-disant la voix
de l'un des candidats
1355
00:59:14,321 --> 00:59:17,324
je parle d'acheter des votes
et truquer les élections.
1356
00:59:17,358 --> 00:59:19,060
C'est devenu viral
1357
00:59:19,093 --> 00:59:22,830
et le candidat
qui a perdu les élections
1358
00:59:22,863 --> 00:59:26,333
était en fait
en soutien à l'Ukraine,
1359
00:59:26,367 --> 00:59:30,304
et le candidat qui a gagné
l'élection était en fait...
1360
00:59:30,337 --> 00:59:31,806
DANIEL :
Un gars pro-russe.
1361
00:59:31,839 --> 00:59:33,340
C'était un gars pro-russe
qui a gagné les élections.
1362
00:59:33,374 --> 00:59:34,842
(parlant russe)
1363
00:59:34,875 --> 00:59:36,644
RÉBECCA JARVIS :
Poutine lui-même a dit
1364
00:59:36,677 --> 00:59:39,747
celui qui gagne ça
course à l'intelligence artificielle
1365
00:59:39,780 --> 00:59:41,949
est essentiellement
le contrôleur de l’humanité.
1366
00:59:41,982 --> 00:59:45,119
Nous nous inquiétons beaucoup
gouvernements autoritaires.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS :
En ce moment, Wall Street
1368
00:59:49,023 --> 00:59:51,392
et les investisseurs en général
dans le monde entier
1369
00:59:51,425 --> 00:59:53,260
conduisent une poussée.
1370
00:59:53,294 --> 00:59:56,697
Ils ont une demande qui devient
les produits à commercialiser
1371
00:59:56,730 --> 00:59:58,866
qui éblouit les gens
le plus en premier.
1372
00:59:58,899 --> 01:00:01,769
Ils ne réfléchissent pas
sur la façon dont ces outils
1373
01:00:01,802 --> 01:00:03,737
pourrait profondément miner la confiance
1374
01:00:03,771 --> 01:00:06,107
et nos institutions démocratiques.
1375
01:00:06,140 --> 01:00:08,109
HARARI :
La démocratie est un système
1376
01:00:08,142 --> 01:00:10,911
pour résoudre les désaccords
entre les gens
1377
01:00:10,945 --> 01:00:12,646
de manière pacifique,
1378
01:00:12,680 --> 01:00:15,082
mais la démocratie est basée sur la confiance.
1379
01:00:15,116 --> 01:00:19,220
Si tu perds toute confiance,
la démocratie est tout simplement impossible.
1380
01:00:21,255 --> 01:00:22,957
TRISTAN HARRIS :
Eh bien, c'est difficile, non ?
1381
01:00:22,990 --> 01:00:25,259
Alors, quelles sont les options
à notre disposition ?
1382
01:00:25,292 --> 01:00:26,760
Il y a en quelque sorte deux camps.
1383
01:00:26,794 --> 01:00:30,030
Par exemple, un camp est le suivant : verrouillez-le.
1384
01:00:30,064 --> 01:00:33,267
Verrouillons ça
dans une poignée d’entreprises d’IA
1385
01:00:33,300 --> 01:00:35,970
qui fera ça
de manière sûre et fiable.
1386
01:00:36,003 --> 01:00:37,705
Mais ensuite les gens s'inquiètent
1387
01:00:37,738 --> 01:00:39,273
concentrations incontrôlables
de richesse et de pouvoir.
1388
01:00:39,306 --> 01:00:42,209
Genre, à qui ferais-tu confiance pour être
un million de fois plus puissant
1389
01:00:42,243 --> 01:00:44,845
ou riche que
tous les autres acteurs de la société ?
1390
01:00:44,879 --> 01:00:46,881
Pourquoi devrions-nous vous faire confiance ?
1391
01:00:46,914 --> 01:00:49,016
Euh, tu ne devrais pas.
1392
01:00:49,049 --> 01:00:51,785
Mais bien sûr, si tu fais ça,
cela s'ouvre
1393
01:00:51,819 --> 01:00:54,922
tous ces risques de
autoritarisme et tyrannie.
1394
01:00:54,955 --> 01:00:57,391
C'est-c'est en quelque sorte
le rêve d'un autoritaire
1395
01:00:57,424 --> 01:01:00,861
avoir l'IA dans une boîte
qui peut être appliqué et utilisé
1396
01:01:00,895 --> 01:01:03,430
pour une surveillance omniprésente.
1397
01:01:03,464 --> 01:01:05,933
Je veux dire, d'une certaine manière,
le genre de monde
1398
01:01:05,966 --> 01:01:11,405
qu'Orwell a imaginé en 1984
est irréaliste,
1399
01:01:11,438 --> 01:01:13,841
euh, à moins que vous ayez l'IA.
1400
01:01:13,874 --> 01:01:16,443
Mais avec l'IA,
c'est en fait réaliste.
1401
01:01:16,477 --> 01:01:18,913
Surveille chaque activité,
1402
01:01:18,946 --> 01:01:22,316
conversations,
reconnaissance faciale.
1403
01:01:22,349 --> 01:01:26,921
Ce qui m'inquiète, c'est que
euh, ces outils peuvent évoluer,
1404
01:01:26,954 --> 01:01:29,023
euh, une forme de totalitarisme
1405
01:01:29,056 --> 01:01:31,892
c'est rentable
et permanente.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS : Donc en réponse
à cela, d'autres personnes disent,
1407
01:01:35,896 --> 01:01:37,398
"Non, non, non, nous devrions
en fait, laisse ça se déchirer.
1408
01:01:37,431 --> 01:01:39,934
"Décentralisons ce pouvoir
autant que possible.
1409
01:01:39,967 --> 01:01:42,036
"Laissons chaque entreprise,
chaque individu,
1410
01:01:42,069 --> 01:01:44,238
"tous les 16 ans,
chaque laboratoire scientifique,
1411
01:01:44,271 --> 01:01:46,473
tu sais, profites-en
des derniers modèles d'IA.
1412
01:01:46,508 --> 01:01:48,475
Mais maintenant tu as
chaque groupe terroriste,
1413
01:01:48,510 --> 01:01:52,112
chaque personne privée de ses droits
avoir le pouvoir de faire
1414
01:01:52,146 --> 01:01:54,181
le pire
arme biologique.
1415
01:01:54,215 --> 01:01:56,050
Infrastructure de piratage,
créer des deepfakes,
1416
01:01:56,083 --> 01:01:57,818
inondation
notre environnement informationnel.
1417
01:01:57,851 --> 01:02:00,955
Donc ça crée tous ces risques
une sorte de dommage catastrophique
1418
01:02:00,988 --> 01:02:03,257
et-et l'effondrement de la société
par cette direction.
1419
01:02:03,290 --> 01:02:05,092
Et donc nous sommes en quelque sorte coincés
entre ce rocher
1420
01:02:05,125 --> 01:02:08,229
et un endroit difficile,
entre "verrouillez-le..."
1421
01:02:08,262 --> 01:02:09,897
(bavardage indistinct)
1422
01:02:11,131 --> 01:02:12,900
-...ou "laisse-le déchirer".
-(sirènes hurlantes)
1423
01:02:12,933 --> 01:02:14,468
(les gens crient)
1424
01:02:14,501 --> 01:02:18,038
Il faut donc trouver quelque chose
comme un chemin étroit
1425
01:02:18,072 --> 01:02:20,774
ça évite
ces deux résultats négatifs.
1426
01:02:20,808 --> 01:02:23,277
Donc, si tout cela est vrai,
pourquoi ne ralentirions-nous pas
1427
01:02:23,310 --> 01:02:26,380
et comprends tout ça
avant qu'il ne soit trop tard ?
1428
01:02:26,413 --> 01:02:29,450
Si l'humanité était extrêmement sage,
1429
01:02:29,483 --> 01:02:31,418
c'est ce que nous ferions.
1430
01:02:31,452 --> 01:02:33,555
Mais il y a, genre, un autre
une façon de faire face à ce genre de choses, non ?
1431
01:02:33,588 --> 01:02:36,457
Ce qui est :
Quelles sont les règles du jeu ?
1432
01:02:36,490 --> 01:02:39,994
Une grande partie de ce que font les PDG
1433
01:02:40,027 --> 01:02:42,429
est piloté par
les incitations auxquelles ils sont confrontés.
1434
01:02:42,463 --> 01:02:45,866
C'est avant tout
incitations à la maximisation des profits
1435
01:02:45,899 --> 01:02:47,468
qui conduisent
le développement de l’IA.
1436
01:02:47,501 --> 01:02:50,938
Même les gentils sont coincés
dans ce dilemme de
1437
01:02:50,971 --> 01:02:53,107
s'ils bougent trop lentement,
1438
01:02:53,140 --> 01:02:55,042
puis ils se quittent
vulnérable
1439
01:02:55,075 --> 01:02:57,478
à tous les autres gars
qui coupent tous les coins.
1440
01:02:57,512 --> 01:03:02,316
Toutes ces grandes entreprises sont présentes
une course complète et sans limites
1441
01:03:02,349 --> 01:03:06,153
pour obtenir le plus rapidement possible
à AGI, allez-y maintenant.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH : Ouais, je veux dire,
Je le pense, je pense
1444
01:03:10,958 --> 01:03:13,460
ça commence probablement
avec DeepMind.
1445
01:03:13,494 --> 01:03:15,195
JOURNALISTE :
Google achète
1446
01:03:15,229 --> 01:03:16,930
société d'intelligence artificielle
Technologies DeepMind.
1447
01:03:16,964 --> 01:03:18,932
Conditions de l'accord
n'ont pas été divulgués.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK : Larry Page et moi
étaient des amis très proches,
1449
01:03:21,201 --> 01:03:23,170
et c'est devenu évident pour moi
1450
01:03:23,203 --> 01:03:26,608
que Larry s'en fichait
sur la sécurité de l'IA.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG : Elon Musk a déclaré
vous avez démarré OpenAI,
1452
01:03:29,310 --> 01:03:31,312
vous avez tous les deux lancé OpenAI parce que
il avait peur de Google.
1453
01:03:31,345 --> 01:03:32,614
LADISH : Vous-vous en gros
avait les fondations
1454
01:03:32,647 --> 01:03:34,181
d'OpenAI en est issu.
1455
01:03:34,214 --> 01:03:35,482
"Alors nous allons faire mieux.
Nous allons le faire
1456
01:03:35,517 --> 01:03:37,818
d'une manière plus sûre
ou de manière plus ouverte."
1457
01:03:39,019 --> 01:03:41,055
C'est donc ce qui a lancé OpenAI.
1458
01:03:41,088 --> 01:03:43,357
Et donc maintenant, au lieu de
avoir un projet AGI,
1459
01:03:43,390 --> 01:03:45,225
vous avez deux projets AGI.
1460
01:03:45,259 --> 01:03:47,328
La pire chose possible
ça pourrait arriver
1461
01:03:47,361 --> 01:03:50,097
c'est s'il y a
plusieurs projets AGI
1462
01:03:50,130 --> 01:03:52,266
fait par différentes personnes
qui ne s'aiment pas
1463
01:03:52,299 --> 01:03:55,202
et sont tous en compétition
pour accéder à AGI en premier.
1464
01:03:55,235 --> 01:03:57,338
Ce serait le pire
chose possible qui puisse arriver,
1465
01:03:57,371 --> 01:04:00,407
parce que cela signifierait
que celui qui est le moins en sécurité,
1466
01:04:00,441 --> 01:04:03,477
celui qui sacrifie le plus
sur la sécurité pour avancer
1467
01:04:03,511 --> 01:04:05,446
sera la personne
cela arrive en premier.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL : C'est en gros
que se passe-t-il, n'est-ce pas ? -Ouais.
1469
01:04:08,282 --> 01:04:11,952
Toi et ton frère
on sait qu'il a quitté OpenAI, euh,
1470
01:04:11,985 --> 01:04:13,320
pour démarrer Anthropic.
1471
01:04:13,354 --> 01:04:15,422
RASKIN : Et puis Anthropique
commencé parce que
1472
01:04:15,456 --> 01:04:18,258
certains chercheurs
à l'intérieur d'OpenAI a dit,
1473
01:04:18,292 --> 01:04:20,894
"Je veux partir
et faites-le de manière plus sûre.
1474
01:04:20,928 --> 01:04:24,064
Tu avais besoin de quelque chose en plus
simplement agrandir les modèles,
1475
01:04:24,098 --> 01:04:26,233
qui est l'alignement ou la sécurité.
1476
01:04:26,266 --> 01:04:28,001
HENDRCKS :
"Nous sommes plus responsables
1477
01:04:28,035 --> 01:04:30,170
ou plus digne de confiance
ou plus moral."
1478
01:04:30,204 --> 01:04:32,072
Vous avez maintenant trois projets AGI.
1479
01:04:32,106 --> 01:04:33,575
Mais aussi assis
la table avec toi
1480
01:04:33,608 --> 01:04:35,242
il y aura un tas d'IA.
1481
01:04:35,275 --> 01:04:38,078
LADISH : Et maintenant Meta est-est
essayer de faire des choses.
1482
01:04:38,112 --> 01:04:40,114
Pendant ce temps, un nouvel artificiel
concurrent du renseignement
1483
01:04:40,147 --> 01:04:41,949
annoncé cette semaine,
Elon Musk...
1484
01:04:41,982 --> 01:04:45,119
HENDRCKKS : xAI, ce qui serait
L'organisation d'Elon Musk.
1485
01:04:45,152 --> 01:04:46,688
MUSC :
Je ne fais pas confiance à OpenAI.
1486
01:04:46,721 --> 01:04:48,489
Le combat entre
Elon Musk et OpenAI
1487
01:04:48,523 --> 01:04:50,124
est entré dans un nouveau cycle.
1488
01:04:50,157 --> 01:04:52,192
Je ne fais pas confiance à Sam Altman,
euh, et moi, et je ne pense pas
1489
01:04:52,226 --> 01:04:54,529
nous voulons avoir le plus
IA puissante dans le monde
1490
01:04:54,562 --> 01:04:56,997
contrôlé par quelqu'un
qui n'est pas digne de confiance.
1491
01:04:57,030 --> 01:04:58,999
(acclamations et applaudissements)
1492
01:04:59,032 --> 01:05:02,136
L'incitation est
des sommes d'argent incalculables.
1493
01:05:02,169 --> 01:05:04,004
-Oui.
-C'est un pouvoir indescriptible.
1494
01:05:04,037 --> 01:05:06,006
-Oui.
-C'est un contrôle indescriptible.
1495
01:05:06,039 --> 01:05:08,409
Si tu as quelque chose
c'est un million de fois plus intelligent
1496
01:05:08,442 --> 01:05:12,012
et plus capable que
tout le reste sur la planète Terre
1497
01:05:12,045 --> 01:05:14,682
et personne d'autre n'a ça,
1498
01:05:14,716 --> 01:05:16,551
cette chose est l'incitation.
1499
01:05:16,584 --> 01:05:18,118
Donc c'est vous qui dirigez le monde.
1500
01:05:19,153 --> 01:05:21,021
Si tu crois vraiment cela,
1501
01:05:21,054 --> 01:05:23,223
si tu es vraiment dans ton coeur
crois-le,
1502
01:05:23,257 --> 01:05:24,526
alors tu pourrais l'être
prêt à prendre
1503
01:05:24,559 --> 01:05:26,460
beaucoup de risque
pour que cela se produise.
1504
01:05:26,493 --> 01:05:29,329
Google vient de publier
son nouveau modèle d'IA.
1505
01:05:29,363 --> 01:05:31,699
La réponse au ChatGPT d'OpenAI.
1506
01:05:31,733 --> 01:05:33,434
Comment pouvons-nous arriver à
ces dix mille milliards ?
1507
01:05:33,467 --> 01:05:35,502
NVIDIA devient-il le plus
une entreprise précieuse aux États-Unis ?
1508
01:05:35,537 --> 01:05:39,574
C'est la plus grande entreprise
opportunité dans l’histoire.
1509
01:05:39,607 --> 01:05:41,074
Dans l'histoire.
1510
01:05:41,108 --> 01:05:42,710
Alors, la raison pour laquelle
tout le monde est vraiment excité
1511
01:05:42,744 --> 01:05:45,179
sur l'intelligence artificielle
en ce moment
1512
01:05:45,212 --> 01:05:48,415
c'est parce que
plus ces entreprises font du battage publicitaire
1513
01:05:48,449 --> 01:05:50,417
les capacités potentielles
de leur technologie,
1514
01:05:50,451 --> 01:05:53,555
plus il y a d'investissement
ils peuvent attirer.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA :
Amazon investit jusqu'à
1516
01:05:55,255 --> 01:05:57,592
quatre milliards de dollars
dans la start-up Anthropic.
1517
01:05:57,625 --> 01:05:59,193
OpenAI jette son dévolu
1518
01:05:59,226 --> 01:06:01,428
sur une moitié à succès
une valorisation d’un billion de dollars.
1519
01:06:01,462 --> 01:06:02,597
Un demi-billion !
1520
01:06:02,630 --> 01:06:03,731
La course est lancée.
1521
01:06:03,765 --> 01:06:05,165
Cela se produit
plus vite que jamais.
1522
01:06:05,199 --> 01:06:07,167
Sommes-nous dans une bulle d’IA ?
Bien sûr.
1523
01:06:07,201 --> 01:06:09,537
Je ne vois tout simplement pas
la bulle éclate
1524
01:06:09,571 --> 01:06:12,707
pendant que tu as encore
ce cycle de dépenses majeur.
1525
01:06:12,740 --> 01:06:15,409
RASKIN : Même si tu penses
C'est du battage médiatique,
1526
01:06:15,442 --> 01:06:18,145
il y en a des milliards
à des milliards de dollars
1527
01:06:18,178 --> 01:06:21,482
entrant dans la création de systèmes d'IA
plus puissant.
1528
01:06:21,516 --> 01:06:24,351
Et une fois que tu as ce truc
c'est plus puissant,
1529
01:06:24,384 --> 01:06:25,753
les entreprises peuvent l'utiliser
1530
01:06:25,787 --> 01:06:27,755
pour obtenir de plus gros profits
et gagner plus d'argent.
1531
01:06:27,789 --> 01:06:30,491
Les pays peuvent l'utiliser
pour rendre les armées plus fortes.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA a dépassé
Microsoft et Apple
1533
01:06:33,327 --> 01:06:36,564
devenir le monde
entreprise la plus précieuse.
1534
01:06:36,598 --> 01:06:39,399
La course au déploiement devient
la course à l'insouciance,
1535
01:06:39,433 --> 01:06:42,302
parce qu'ils ne peuvent pas
déployez-le aussi rapidement
1536
01:06:42,336 --> 01:06:43,538
et aussi bien faire les choses.
1537
01:06:43,571 --> 01:06:46,440
Ils croient que
ce sont les gentils.
1538
01:06:46,473 --> 01:06:49,611
"Et si je ne le fais pas,
quelqu'un qui n'a pas
1539
01:06:49,644 --> 01:06:51,779
"des valeurs aussi bonnes que moi
je serai assis à table
1540
01:06:51,813 --> 01:06:55,082
je dois prendre des décisions, donc
J'ai l'obligation de le faire."
1541
01:06:55,115 --> 01:06:56,551
Oui, c'est
une croyance très répandue.
1542
01:06:56,584 --> 01:06:59,152
Beaucoup, beaucoup, beaucoup,
peut-être la plupart des gens
1543
01:06:59,186 --> 01:07:01,255
construire cette technologie
croyez cela.
1544
01:07:01,288 --> 01:07:04,258
je m'inquiète pour
la concurrence commerciale,
1545
01:07:04,291 --> 01:07:06,393
mais il s'avère
Je suis encore plus inquiet
1546
01:07:06,426 --> 01:07:08,428
la compétition géopolitique.
1547
01:07:08,462 --> 01:07:10,665
Nous avions huit ans de retard
il y a un an.
1548
01:07:10,698 --> 01:07:12,800
Maintenant, nous sommes probablement
avec moins d'un an de retard.
1549
01:07:12,834 --> 01:07:16,236
Eh bien, l'Arabie Saoudite
et les Émirats arabes unis ont fait la course
1550
01:07:16,270 --> 01:07:18,673
mettre en place des centres de données
et se positionner
1551
01:07:18,706 --> 01:07:20,675
en tant que force dominante de l'IA...
1552
01:07:20,708 --> 01:07:22,710
...pour faire de la Corée du Sud
un leader mondial de l’IA.
1553
01:07:22,744 --> 01:07:24,411
JULIE SIEGER :
Le président français Emmanuel Macron
1554
01:07:24,444 --> 01:07:26,380
on a beaucoup parlé
intelligence artificielle...
1555
01:07:26,413 --> 01:07:27,715
Maintenant avec plus d'informations sur le rôle d'Israël
1556
01:07:27,749 --> 01:07:29,817
dans l'intelligence artificielle
révolution...
1557
01:07:29,851 --> 01:07:33,487
Les pays seront en compétition
pour qui les technologies d'IA
1558
01:07:33,521 --> 01:07:35,355
créer la prochaine génération
de l'industrie.
1559
01:07:35,389 --> 01:07:38,626
Les Chinois insistent
cette IA,
1560
01:07:38,660 --> 01:07:40,360
comme étant développé en Chine,
1561
01:07:40,394 --> 01:07:42,095
renforcer les valeurs fondamentales
1562
01:07:42,129 --> 01:07:44,431
du Parti communiste chinois
et le système chinois.
1563
01:07:44,464 --> 01:07:49,269
L'Amérique doit battre la Chine
dans la course à l'IA.
1564
01:07:49,303 --> 01:07:51,639
DANIEL : En Chine, genre,
à des années-lumière derrière.
1565
01:07:51,673 --> 01:07:53,240
Le sont-ils ?
1566
01:07:53,273 --> 01:07:55,442
Je veux dire, ils en ont bien plus
données de formation que nous,
1567
01:07:55,475 --> 01:07:58,312
et rien ne dit qu'ils
ne lâche pas de modèle le mois prochain
1568
01:07:58,345 --> 01:08:01,415
ce n'est pas...
ne surpasse pas de loin GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Tout allait très bien.
Qu'est-ce qui pourrait mal se passer ?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (parlant chinois)
-Recherche profonde... -Recherche profonde...
1571
01:08:07,287 --> 01:08:08,455
Il y a un nouveau modèle.
1572
01:08:08,488 --> 01:08:11,325
Mais d'un laboratoire chinois
appelé DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Parlons de DeepSeek,
parce que c'est époustouflant,
1574
01:08:14,461 --> 01:08:18,231
et ça secoue ça
l’ensemble de l’industrie.
1575
01:08:18,265 --> 01:08:19,701
L'administration Trump
assurera
1576
01:08:19,734 --> 01:08:23,470
que le plus puissant
Les systèmes d'IA sont construits aux États-Unis
1577
01:08:23,503 --> 01:08:27,174
avec un design américain
et des copeaux fabriqués.
1578
01:08:27,207 --> 01:08:29,343
L'IA appartient à la Chine
Projet Apollon.
1579
01:08:29,376 --> 01:08:30,745
Le Parti communiste chinois
1580
01:08:30,778 --> 01:08:32,179
comprend profondément le potentiel
1581
01:08:32,212 --> 01:08:33,380
pour que l'IA perturbe la guerre.
1582
01:08:33,413 --> 01:08:35,650
Google ne promet plus
que ce ne sera pas
1583
01:08:35,683 --> 01:08:38,886
utiliser l'intelligence artificielle
pour les armes ou la surveillance.
1584
01:08:38,920 --> 01:08:40,487
Chine, Corée du Nord, Russie
1585
01:08:40,521 --> 01:08:42,222
je vais continuer à le construire
le plus vite possible
1586
01:08:42,255 --> 01:08:44,792
pour obtenir plus d'avantages économiques,
plus d'avantage en termes de productivité
1587
01:08:44,826 --> 01:08:47,361
plus d'avantage scientifique,
plus d'avantage militaire,
1588
01:08:47,394 --> 01:08:48,896
Parce que l'IA fabrique de meilleures armes.
1589
01:08:48,930 --> 01:08:52,299
Si tu parles de
un système aussi vaste et performant
1590
01:08:52,332 --> 01:08:53,635
en tant que brillant scientifique,
1591
01:08:53,668 --> 01:08:58,271
il pourrait peut-être fonctionner
une campagne militaire
1592
01:08:58,305 --> 01:09:01,743
mieux que n'importe lequel des généraux
au sein du gouvernement américain en ce moment.
1593
01:09:01,776 --> 01:09:06,213
Taiwan est le problème qui crée
le plus de tension en ce moment
1594
01:09:06,246 --> 01:09:08,382
entre Pékin et les États-Unis.
1595
01:09:08,415 --> 01:09:10,918
Il y a un-un direct
désaccord d'opposition
1596
01:09:10,952 --> 01:09:12,452
entre les États-Unis et la Chine
1597
01:09:12,486 --> 01:09:14,454
sur la question de savoir si Taiwan est
une partie de la Chine.
1598
01:09:14,488 --> 01:09:18,926
MATHENY : Taïwan est important
pour tant de raisons.
1599
01:09:18,960 --> 01:09:20,828
C'est aussi la maison de
1600
01:09:20,862 --> 01:09:24,565
environ 90 % des puces avancées
fabrication pour le monde,
1601
01:09:24,599 --> 01:09:28,903
ce qui signifie que la fourniture
chaîne pour le calcul avancé
1602
01:09:28,936 --> 01:09:31,506
est en danger s'il y en a
1603
01:09:31,539 --> 01:09:33,440
une sorte de scénario
autour de Taïwan,
1604
01:09:33,473 --> 01:09:37,712
qu'il s'agisse d'un blocus
ou une invasion par la Chine.
1605
01:09:38,311 --> 01:09:40,948
HENDRCKS :
Allons-nous participer à une course
1606
01:09:40,982 --> 01:09:45,853
entre les États-Unis et la Chine
qui finit par devenir
1607
01:09:45,887 --> 01:09:49,891
une course aux armements militarisée en matière d'IA et,
vous savez, potentiellement des prospects
1608
01:09:49,924 --> 01:09:51,659
à un conflit de grande puissance ?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN : Le sortant
haut commandant militaire américain
1610
01:09:53,528 --> 01:09:56,396
dans la région
la guerre prédite allait arriver.
1611
01:09:56,430 --> 01:09:58,432
Je pense que la menace est manifeste
au cours de cette décennie,
1612
01:09:58,465 --> 01:09:59,967
en fait, dans les six prochaines années.
1613
01:10:00,001 --> 01:10:01,769
MATHÉNY :
Euh, un des scénarios
1614
01:10:01,803 --> 01:10:06,406
ce qui m'inquiète, c'est
une cyber-guerre flash,
1615
01:10:06,440 --> 01:10:11,445
euh, celui dans lequel
des cyberoutils autonomes
1616
01:10:11,478 --> 01:10:13,447
sont en compétition les uns contre les autres
1617
01:10:13,480 --> 01:10:15,248
de manière évolutive
1618
01:10:15,282 --> 01:10:17,317
sans
contrôle humain significatif.
1619
01:10:19,386 --> 01:10:20,755
HARARI :
Vous vivez dans une zone de guerre,
1620
01:10:20,788 --> 01:10:24,357
ce sera une IA qui décidera
s'il faut bombarder ta maison
1621
01:10:24,391 --> 01:10:26,326
et s'il faut vous tuer.
1622
01:10:26,359 --> 01:10:27,995
Laissons la machine décider.
1623
01:10:28,029 --> 01:10:29,731
C'est la tentation.
1624
01:10:29,764 --> 01:10:32,867
C'est pourquoi l'IA est si tentante
que les militaires doivent adopter,
1625
01:10:32,900 --> 01:10:36,003
pour créer des armes autonomes,
Parce que si je commence à croire
1626
01:10:36,037 --> 01:10:39,607
que mon adversaire militaire
va adopter l'IA,
1627
01:10:39,640 --> 01:10:42,375
ce sera une course pour qui peut
appuyez sur la gâchette plus rapidement.
1628
01:10:42,409 --> 01:10:45,445
Et celui qui automatise
cette décision,
1629
01:10:45,479 --> 01:10:47,615
plutôt que d'avoir
un humain dans la boucle,
1630
01:10:47,648 --> 01:10:49,817
est celui
qui gagnera cette guerre.
1631
01:10:49,851 --> 01:10:51,284
Et si tu penses à
1632
01:10:51,318 --> 01:10:53,755
la course aux armements nucléaires
dans les années 40...
1633
01:10:54,689 --> 01:10:56,891
...tu connais les Allemands
travaillent sur la bombe,
1634
01:10:56,924 --> 01:11:01,361
donc ce n'est pas si facile à dire
Robert Oppenheimer alors,
1635
01:11:01,394 --> 01:11:04,031
"Euh, tu sais, ralentis."
1636
01:11:04,065 --> 01:11:05,900
Alors après avoir regardé ce film,
ça va être déroutant,
1637
01:11:05,933 --> 01:11:07,300
parce que tu vas y retourner,
1638
01:11:07,334 --> 01:11:08,736
et demain
tu vas utiliser ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
et ça va être
incroyablement utile.
1640
01:11:10,805 --> 01:11:12,974
Et je vais l'utiliser aussi, et
ce sera incroyablement utile.
1641
01:11:13,007 --> 01:11:16,611
Et tu diras : "Attends, alors
Je viens de voir ce film sur l'IA
1642
01:11:16,644 --> 01:11:18,513
"et risque existentiel
et toutes ces choses,
1643
01:11:18,546 --> 01:11:20,915
et où est la menace, déjà ? »
1644
01:11:20,948 --> 01:11:24,986
Et ce n'est pas que ChatGPT soit
la menace existentielle.
1645
01:11:25,019 --> 01:11:29,322
C'est ça la course au déploiement
le plus puissant,
1646
01:11:29,356 --> 01:11:32,093
impénétrable,
technologie incontrôlable,
1647
01:11:32,126 --> 01:11:35,630
au pire
incitations possibles,
1648
01:11:35,663 --> 01:11:37,732
c'est la menace existentielle.
1649
01:11:38,398 --> 01:11:40,935
DANIEL :
Mais ça me frappe, ça-ça
1650
01:11:40,968 --> 01:11:43,671
nous sommes dans un contexte de course.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER : Oui.
-Et c'est dans un contexte compétitif,
1652
01:11:46,507 --> 01:11:48,109
"Je dois y arriver en premier,
je dois gagner la course",
1653
01:11:48,142 --> 01:11:49,544
"Je dois rivaliser avec la Chine,
1654
01:11:49,577 --> 01:11:50,945
je dois rivaliser avec
les autres laboratoires."
1655
01:11:50,978 --> 01:11:52,412
N'est-ce pas vrai ?
1656
01:11:52,445 --> 01:11:54,115
C'est aujourd'hui le cas.
1657
01:11:54,148 --> 01:11:57,552
Nous devons donc changer
cette dynamique de course.
1658
01:11:58,519 --> 01:12:00,487
Vous ne pensez pas ?
1659
01:12:00,521 --> 01:12:02,857
je pense que ce serait
très bien en effet.
1660
01:12:04,158 --> 01:12:06,928
Je-je pense
il y a une sorte de...
1661
01:12:06,961 --> 01:12:10,064
mysticisme autour de l'IA
ça donne l'impression
1662
01:12:10,097 --> 01:12:11,999
il est tombé du ciel.
1663
01:12:12,033 --> 01:12:14,001
DANIEL : En pensant à ça
comme une technologie divine
1664
01:12:14,035 --> 01:12:15,970
est un problème.
1665
01:12:16,003 --> 01:12:17,672
Ouais.
1666
01:12:18,773 --> 01:12:20,473
Pourquoi?
1667
01:12:20,508 --> 01:12:23,544
Cela donne une licence
aux entreprises de...
1668
01:12:23,578 --> 01:12:26,714
(rires)
ne pas prendre la responsabilité
1669
01:12:26,747 --> 01:12:31,418
pour les choses que le logiciel
qu'ils ont construit le fait.
1670
01:12:31,451 --> 01:12:35,590
Si les gens faisaient ce lien,
1671
01:12:35,623 --> 01:12:37,859
peut-être que ce serait comme,
aide-les à comprendre à nouveau
1672
01:12:37,892 --> 01:12:42,462
la dynamique de
tout l'argent et le pouvoir et...
1673
01:12:42,495 --> 01:12:45,933
le chaos qui arrive à...
1674
01:12:45,967 --> 01:12:47,602
créer cette technologie.
1675
01:12:47,635 --> 01:12:49,737
C'est genre cinq gars
qui le contrôle, n'est-ce pas ?
1676
01:12:49,770 --> 01:12:52,139
- Genre, cinq hommes ?
-En gros, ouais.
1677
01:12:52,173 --> 01:12:54,642
-Les PDG ?
-Ouais.
1678
01:12:54,675 --> 01:12:55,977
D'accord.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
DANIEL :
Parfois, j'ai l'impression
1681
01:13:03,651 --> 01:13:07,755
J'ai été là-dessus
un voyage sans fin
1682
01:13:07,788 --> 01:13:09,757
d'essayer de comprendre cela.
1683
01:13:09,790 --> 01:13:12,994
Tu sais, comme
Je gravis une montagne...
1684
01:13:15,930 --> 01:13:19,634
...et à chaque fois
Je monte une colline,
1685
01:13:19,667 --> 01:13:21,035
Je pense que j'ai atteint le sommet,
1686
01:13:21,068 --> 01:13:24,005
mais ça continue
et aller et venir.
1687
01:13:24,038 --> 01:13:25,072
(clics de caméra, vrombissements)
1688
01:13:25,106 --> 01:13:27,174
Mais d'après tout ce que j'ai entendu,
1689
01:13:27,208 --> 01:13:30,778
si je devais deviner ce que c'est
au sommet de la Montagne de l'Anxiété,
1690
01:13:30,811 --> 01:13:34,682
ce sont ces cinq PDG
de ces cinq sociétés,
1691
01:13:34,715 --> 01:13:37,952
qui ressemblent un peu aux
Oppenheimers du moment.
1692
01:13:37,985 --> 01:13:40,054
Ce sont les gars
qui construisent cette chose.
1693
01:13:40,087 --> 01:13:41,454
Ouais.
1694
01:13:41,488 --> 01:13:44,659
Genre, y a-t-il un plan ?
1695
01:13:44,692 --> 01:13:46,827
Le chef de l'entreprise
qui fait ChatGPT
1696
01:13:46,861 --> 01:13:50,531
averti d'une possible
un préjudice important pour le monde.
1697
01:13:50,564 --> 01:13:53,000
Je pense que si cette technologie
ça va mal,
1698
01:13:53,034 --> 01:13:54,068
ça peut mal tourner.
1699
01:13:54,101 --> 01:13:56,237
(des éclats de bavardages distincts)
1700
01:13:56,270 --> 01:13:58,072
DANIEL :
Cinq mecs.
1701
01:13:58,105 --> 01:14:01,943
Je-je n'ai jamais pensé à nous
en tant qu'entreprise de médias sociaux.
1702
01:14:01,976 --> 01:14:06,814
J'ai l'impression que je dois essayer
et-et trouve ces gars...
1703
01:14:06,847 --> 01:14:07,515
Mm-hmm.
1704
01:14:07,548 --> 01:14:09,784
...et mettez-les dans le film.
1705
01:14:10,584 --> 01:14:13,554
Nous obtiendrions certainement
une certaine clarté à partir de cela.
1706
01:14:14,188 --> 01:14:15,723
(clics de caméra, vrombissements)
1707
01:14:16,590 --> 01:14:19,860
Je veux dire, il faut que la responsabilité s'arrête
quelque part, n'est-ce pas ?
1708
01:14:19,894 --> 01:14:21,862
(le vent siffle)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(les outils vrombissent et cliquent)
1711
01:14:27,668 --> 01:14:29,870
(soufflé)
1712
01:14:34,608 --> 01:14:35,810
DANIEL :
Comment ça se sent ?
1713
01:14:35,843 --> 01:14:38,212
-Super.
-Ça va ?
1714
01:14:38,245 --> 01:14:39,847
-Ouais.
-(bavardage indistinct de l'équipage)
1715
01:14:39,880 --> 01:14:41,582
-Puis-je avancer le siège ?
-DANIEL : Oui, tu peux.
1716
01:14:41,615 --> 01:14:42,717
C'est, euh, c'est juste
un peu gênant.
1717
01:14:42,750 --> 01:14:43,985
Je suis un peu comme...
1718
01:14:44,018 --> 01:14:45,619
Dario, comment te sens-tu
à propos de cette chaise ?
1719
01:14:45,653 --> 01:14:47,588
Euh, ouais, la chaise est bonne.
1720
01:14:47,621 --> 01:14:49,290
-Je voulais juste le déplacer
un peu en avant. -D'accord.
1721
01:14:49,323 --> 01:14:51,125
J'ai choisi cette chaise.
1722
01:14:51,158 --> 01:14:52,727
-C'est une bonne chaise.
-Merci.
1723
01:14:52,760 --> 01:14:54,562
(le téléphone portable sonne)
1724
01:14:58,332 --> 01:15:00,500
TED :
Et asseyez-vous là.
1725
01:15:02,036 --> 01:15:03,104
Et puis par ici,
1726
01:15:03,137 --> 01:15:05,006
nous nous regarderons
à travers ce verre.
1727
01:15:05,039 --> 01:15:07,074
(signal occupé bip)
1728
01:15:11,879 --> 01:15:13,948
Et m'asseyant sur la chaise,
penché en avant ?
1729
01:15:13,981 --> 01:15:15,683
-DANIEL : Ouais. Eh bien, peu importe
confortable, je pense. -D'accord.
1730
01:15:15,716 --> 01:15:17,018
C'est plutôt cool.
Il y a un tas de miroirs.
1731
01:15:17,051 --> 01:15:18,285
-Est-ce que... d'accord.
-FEMME : Sam A., prends-en un. Marque.
1732
01:15:18,319 --> 01:15:19,920
-Comment ça ?
-Bien. Merci.
1733
01:15:19,954 --> 01:15:21,622
DANIEL : La genèse
de ce projet, c'est que j'étais
1734
01:15:21,655 --> 01:15:23,290
assis à la maison,
et je jouais avec,
1735
01:15:23,324 --> 01:15:24,859
Je pense que votre générateur d'images,
1736
01:15:24,892 --> 01:15:27,762
et j'étais simultanément,
euh, terrifié
1737
01:15:27,795 --> 01:15:29,897
-et vraiment impressionné.
-(rires doucement)
1738
01:15:29,930 --> 01:15:32,333
-C'est la combinaison habituelle.
-Et puis on passe à
1739
01:15:32,366 --> 01:15:35,002
ma femme et moi découvrons
nous attendons.
1740
01:15:35,036 --> 01:15:38,773
Et-et j'ai l'impression d'avoir
une crise existentielle
1741
01:15:38,806 --> 01:15:40,775
comme ma femme
enceinte de six mois.
1742
01:15:40,808 --> 01:15:43,577
Et je pense que ma première question,
ce que je demande à tout le monde :
1743
01:15:43,611 --> 01:15:46,080
C'est maintenant un moment terrible
avoir un enfant ?
1744
01:15:46,113 --> 01:15:47,848
Est-ce que je fais une grosse erreur ?
1745
01:15:47,882 --> 01:15:49,650
j'attends un enfant
en mars aussi. Mon premier.
1746
01:15:49,683 --> 01:15:50,918
-Tu attends un enfant ?
-Ouais.
1747
01:15:50,951 --> 01:15:52,319
-Vous attendez pour mars ?
-Premier enfant.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
-Merci beaucoup.
1749
01:15:53,821 --> 01:15:54,922
Je n'ai jamais été aussi excité
pour n'importe quoi.
1750
01:15:54,955 --> 01:15:57,091
-C'est ce que je ressens.
-Ouais.
1751
01:15:57,124 --> 01:15:58,759
Mais tu n'as pas peur ?
1752
01:15:58,793 --> 01:16:03,064
Je veux dire, genre, avoir un enfant, c'est
juste cette chose capitale
1753
01:16:03,097 --> 01:16:05,633
que moi, tu sais,
Je reste éveillé tous les soirs, genre,
1754
01:16:05,666 --> 01:16:07,334
lire ces livres sur
comment élever un enfant,
1755
01:16:07,368 --> 01:16:08,769
et j'espère
Je vais faire du bon travail,
1756
01:16:08,803 --> 01:16:09,804
et ça se sent
très accablant et...
1757
01:16:09,837 --> 01:16:12,673
mais je n'ai pas peur...
1758
01:16:12,706 --> 01:16:14,675
pour que les enfants grandissent
dans un monde avec l'IA.
1759
01:16:14,708 --> 01:16:16,811
Genre, c'est... ça ira.
1760
01:16:16,844 --> 01:16:19,280
C'est bon à entendre
venant du gars.
1761
01:16:19,313 --> 01:16:21,082
Je pense que c'est une merveilleuse idée
avoir des enfants.
1762
01:16:21,115 --> 01:16:23,784
Je-je pense que ce sont les plus
chose magique et incroyable.
1763
01:16:23,818 --> 01:16:25,820
-(soupire lourdement)
-Il y a tellement d'incertitude,
1764
01:16:25,853 --> 01:16:27,188
Je ferais presque simplement
ce que tu vas faire de toute façon.
1765
01:16:27,221 --> 01:16:29,223
Je sais que ce n'est pas le cas
une réponse très satisfaisante,
1766
01:16:29,256 --> 01:16:32,359
mais c'est le seul
Je peux trouver.
1767
01:16:32,393 --> 01:16:34,929
Nos enfants ne le feront jamais...
1768
01:16:34,962 --> 01:16:37,331
je connais un monde qui n'a pas
IA vraiment avancée.
1769
01:16:37,364 --> 01:16:40,167
En fait, nos enfants ne le feront jamais
être plus intelligent qu'une IA.
1770
01:16:40,201 --> 01:16:42,703
DANIEL : "Nos enfants
ne jamais être plus intelligent qu'une IA" ?
1771
01:16:42,736 --> 01:16:44,839
Eh bien, d'un point de vue brut,
du point de vue du QI brut,
1772
01:16:44,872 --> 01:16:46,807
ils ne le seront jamais
plus intelligent qu'une IA.
1773
01:16:46,841 --> 01:16:48,309
Cette notion ne
ça te perturbe un peu ?
1774
01:16:48,342 --> 01:16:51,712
Parce que ça me fait sentir
un peu nauséeux d'une manière bizarre.
1775
01:16:51,745 --> 01:16:55,316
Euh, ça me déstabilise
un peu.
1776
01:16:55,349 --> 01:16:56,817
Mais c'est la réalité.
1777
01:16:56,851 --> 01:16:58,819
DANIEL :
D'accord, donc la dynamique de la course.
1778
01:16:58,853 --> 01:17:01,655
Nous avons un groupe de personnes
qui sont tous d'accord
1779
01:17:01,689 --> 01:17:03,190
que c'est effrayant.
1780
01:17:03,224 --> 01:17:05,126
Sur la base des délais qui
beaucoup de gens m'ont donné,
1781
01:17:05,159 --> 01:17:07,661
nous avons entre deux mois et
cinq ans pour comprendre cela.
1782
01:17:07,695 --> 01:17:09,063
-Ouais.
-Et-et, je suppose,
1783
01:17:09,096 --> 01:17:13,767
ma plus grande question est :
Pourquoi ne pouvons-nous pas simplement arrêter ?
1784
01:17:14,768 --> 01:17:19,340
Le problème avec, euh, euh,
"Je m'arrête", c'est, euh,
1785
01:17:19,373 --> 01:17:22,776
il y a beaucoup, beaucoup de groupes maintenant
partout dans le monde, euh, euh,
1786
01:17:22,810 --> 01:17:26,113
construire ceci, pour
de nombreuses nations, de nombreuses entreprises,
1787
01:17:26,147 --> 01:17:28,749
euh, tout avec
motivations différentes.
1788
01:17:28,782 --> 01:17:31,152
Il y en a quelques-uns
ces entreprises dans cet espace
1789
01:17:31,185 --> 01:17:34,455
quelle est leur position : "Nous voulons
développer cette technologie
1790
01:17:34,488 --> 01:17:36,323
absolument aussi vite que possible.
1791
01:17:36,357 --> 01:17:40,694
Et même si nous pouvions adopter des lois
aux États-Unis et en Europe,
1792
01:17:40,728 --> 01:17:42,897
il faut convaincre...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping et Vladimir Poutine
ou, tu sais,
1794
01:17:45,299 --> 01:17:47,968
quel que soit leur scientifique
les conseillers sont de leur côté.
1795
01:17:48,002 --> 01:17:49,837
Ça va être vraiment dur.
1796
01:17:49,870 --> 01:17:51,238
je pense que c'est vrai
1797
01:17:51,272 --> 01:17:54,041
que si deux personnes sont
exactement au même endroit,
1798
01:17:54,074 --> 01:17:56,410
euh, celui qui est prêt à prendre
plus de raccourcis sur la sécurité
1799
01:17:56,443 --> 01:17:58,746
devrait en quelque sorte
"arrive-y en premier."
1800
01:17:58,779 --> 01:18:01,715
Euh, mais...
1801
01:18:01,749 --> 01:18:03,284
nous pouvons utiliser notre avance
1802
01:18:03,317 --> 01:18:06,720
passer beaucoup plus de temps
faire des tests de sécurité.
1803
01:18:06,754 --> 01:18:08,455
DANIEL :
Et si tu le perds ?
1804
01:18:08,489 --> 01:18:10,057
Vous recevez l'appel
et tu découvres
1805
01:18:10,090 --> 01:18:12,092
que tu es maintenant, disons,
six mois de retard.
1806
01:18:12,126 --> 01:18:14,828
-Qu-Que se passe-t-il alors ?
-Ça dépend de qui on est derrière.
1807
01:18:14,862 --> 01:18:17,364
Si c'est comme,
un gouvernement contradictoire,
1808
01:18:17,398 --> 01:18:19,200
c'est probablement très mauvais.
1809
01:18:19,233 --> 01:18:21,902
Alors disons que tu reçois l'appel
que la Chine a un,
1810
01:18:21,936 --> 01:18:25,172
a un récursif
agent d'auto-amélioration
1811
01:18:25,206 --> 01:18:27,808
ou quelque chose comme ça que nous
devrait vraiment s'inquiéter.
1812
01:18:27,841 --> 01:18:30,010
Que se passe-t-que-que se passe-t-il ?
1813
01:18:31,478 --> 01:18:33,113
Euh...
1814
01:18:35,950 --> 01:18:37,484
Ce cas nécessiterait...
1815
01:18:37,519 --> 01:18:41,088
la première étape serait
parler au gouvernement américain.
1816
01:18:41,121 --> 01:18:43,457
Sam, est-ce que tu fais confiance au
la capacité du gouvernement à gérer
1817
01:18:43,490 --> 01:18:45,292
quelque chose comme ça ?
1818
01:18:46,427 --> 01:18:48,162
Ouais, je le fais, en fait.
1819
01:18:48,195 --> 01:18:50,030
Il y a d'autres choses que je ne fais pas
faire confiance au gouvernement pour gérer,
1820
01:18:50,064 --> 01:18:51,832
mais ce scénario particulier,
Je pense qu'ils sauraient...
1821
01:18:51,865 --> 01:18:53,167
ils-ils-- oui.
1822
01:18:53,200 --> 01:18:54,969
DANIEL : Quand vous l'aurez fait,
comme des discussions privées
1823
01:18:55,002 --> 01:18:56,937
avec les autres gars dont
les doigts sont sur la gâchette,
1824
01:18:56,971 --> 01:19:00,241
pour ainsi dire, euh,
faire ces discussions privées
1825
01:19:00,274 --> 01:19:01,875
te remplir de confiance
1826
01:19:01,909 --> 01:19:03,545
ou est-ce qu'ils vous font,
euh, plus anxieux ?
1827
01:19:03,578 --> 01:19:07,414
Écoute, je veux dire, j'en connais
d'entre eux mieux que d'autres.
1828
01:19:07,448 --> 01:19:10,417
Euh, j'ai plus confiance
dans certains d'entre eux, ce que j'ai
1829
01:19:10,451 --> 01:19:12,920
dans d'autres, tu sais,
comme avec, comme avec n'importe quel peuple.
1830
01:19:12,953 --> 01:19:14,388
Tu sais,
tu penses, tu sais,
1831
01:19:14,421 --> 01:19:16,223
les enfants de ton lycée
cours ou quelque chose comme ça, non ?
1832
01:19:16,257 --> 01:19:18,526
Vous savez, certains d'entre eux le sont,
tu sais, vraiment gentil.
1833
01:19:18,560 --> 01:19:20,961
Certains d'entre eux sont bien intentionnés
mais pas si efficace que ça.
1834
01:19:20,995 --> 01:19:22,930
Certains d'entre eux sont,
vous savez, les tyrans.
1835
01:19:22,963 --> 01:19:24,198
Certains d'entre eux sont
des gens vraiment méchants.
1836
01:19:24,231 --> 01:19:26,300
(bégaie)
Toi-toi en quelque sorte vraiment,
1837
01:19:26,333 --> 01:19:27,535
vous voyez vraiment la propagation.
1838
01:19:27,569 --> 01:19:29,236
Tu sais, suis-je, suis-je,
suis-je confiant
1839
01:19:29,270 --> 01:19:31,071
que tout le monde va faire
la bonne chose,
1840
01:19:31,105 --> 01:19:32,540
que tout va s'arranger ?
1841
01:19:32,574 --> 01:19:34,241
Euh, non, je ne le suis pas.
1842
01:19:34,275 --> 01:19:36,010
Et il n'y a rien
Je peux y faire, n'est-ce pas ?
1843
01:19:36,043 --> 01:19:38,379
Tu sais, tout ce que je peux faire
c'est une poussée pour le,
1844
01:19:38,412 --> 01:19:39,813
poussez pour, vous savez,
1845
01:19:39,847 --> 01:19:41,181
faire pression pour le gouvernement
de s'impliquer.
1846
01:19:41,215 --> 01:19:43,150
Mais finalement je suis juste
une personne là aussi.
1847
01:19:43,183 --> 01:19:44,586
C'est...
c'est à nous tous
1848
01:19:44,619 --> 01:19:46,353
faire pression pour le gouvernement
de s'impliquer.
1849
01:19:46,387 --> 01:19:49,023
C'est la chose numéro un
c'est ce que je pense que nous devons faire
1850
01:19:49,056 --> 01:19:51,292
to-to, tu sais, pour régler les choses
dans la bonne direction.
1851
01:19:51,325 --> 01:19:53,160
Ce qui me rend anxieux
à propos de ça, c'est comme,
1852
01:19:53,193 --> 01:19:56,463
la réalité fondamentale que le
vitesse à laquelle la technologie
1853
01:19:56,497 --> 01:19:58,966
prolifère et grandit
est exponentiel,
1854
01:19:58,999 --> 01:20:02,002
et les mécanismes pour légiférer
ont 300 ans,
1855
01:20:02,036 --> 01:20:03,304
-prend une éternité.
-Ouais.
1856
01:20:03,337 --> 01:20:05,573
Euh, je-je pense
ça va être un gros travail.
1857
01:20:05,607 --> 01:20:07,274
Je-je suis tout à fait d'accord
avec vous là-dessus.
1858
01:20:07,308 --> 01:20:09,276
DANIEL : Tu sais,
ce que je recherche littéralement
1859
01:20:09,310 --> 01:20:11,513
c'est comme,
"Voici des étapes qui, par exemple,
1860
01:20:11,546 --> 01:20:15,449
"Les grands patrons vont
prendre pour se concentrer sur la sécurité,
1861
01:20:15,482 --> 01:20:18,586
pour atténuer le péril
et maximiser la promesse.
1862
01:20:18,620 --> 01:20:20,588
Et je ne le fais pas,
Je ne sais pas, je ne sais pas
1863
01:20:20,622 --> 01:20:22,423
qu'il y a
une réponse simple à cela.
1864
01:20:22,456 --> 01:20:24,091
Euh...
1865
01:20:26,360 --> 01:20:28,262
Je veux dire, c'est peut-être le cas
trop simple,
1866
01:20:28,295 --> 01:20:30,632
mais toi...
1867
01:20:30,665 --> 01:20:32,333
créer un nouveau modèle,
1868
01:20:32,366 --> 01:20:35,202
tu l'étudies et le testes
très soigneusement.
1869
01:20:35,235 --> 01:20:37,871
Tu l'as éteint
dans le monde progressivement,
1870
01:20:37,905 --> 01:20:40,074
et puis, de plus en plus,
tu comprends
1871
01:20:40,107 --> 01:20:41,875
si c'est sûr ou non,
et puis si c'est le cas,
1872
01:20:41,909 --> 01:20:43,377
vous pouvez passer à l'étape suivante.
1873
01:20:44,445 --> 01:20:47,414
Cela n'a pas l'air aussi flashy
comme un brillant scientifique
1874
01:20:47,448 --> 01:20:50,652
proposer une idée dans un
laboratoire pour créer un système d'IA, comme,
1875
01:20:50,685 --> 01:20:54,355
parfaitement sûr et contrôlable
et tout le reste,
1876
01:20:54,388 --> 01:20:56,190
mais c'est ce que je crois
ça va arriver.
1877
01:20:56,223 --> 01:20:57,559
C'est comme ça
Je pense que cela fonctionne.
1878
01:20:57,592 --> 01:20:59,561
Mais disons simplement
quelque chose de terrible arrive,
1879
01:20:59,594 --> 01:21:02,429
comme si un mannequin se détachait
ou devient voyou ou quelque chose comme ça.
1880
01:21:02,463 --> 01:21:04,031
Y a-t-il un protocole ?
1881
01:21:04,064 --> 01:21:06,266
Comme, littéralement,
J'imagine un téléphone rouge.
1882
01:21:06,300 --> 01:21:07,635
-Ouais.
-Désolé d'avoir pensé à ça
1883
01:21:07,669 --> 01:21:09,103
en termes de films, mais, comme...
1884
01:21:09,136 --> 01:21:10,371
Il existe un protocole.
1885
01:21:10,404 --> 01:21:12,039
-Y a-t-il un téléphone rouge
sur ton bureau ? -Non.
1886
01:21:12,072 --> 01:21:13,508
(rires) :
Est-ce un secret ?
1887
01:21:13,541 --> 01:21:15,643
Je veux dire, euh, non, ce n'est pas le cas,
ce n'est pas aussi sophistiqué ou dramatique
1888
01:21:15,677 --> 01:21:17,512
comme vous l'espériez,
mais il y a, tu sais...
1889
01:21:17,545 --> 01:21:19,279
nous avons, genre, réfléchi
ces scénarios,
1890
01:21:19,313 --> 01:21:21,081
et si cela arrive,
nous allons appeler ces gens
1891
01:21:21,115 --> 01:21:22,349
dans cet ordre et fais ceci
1892
01:21:22,383 --> 01:21:24,017
et en quelque sorte faire
ces décisions si, comme...
1893
01:21:24,051 --> 01:21:26,387
je crois que
quand tu as l'occasion
1894
01:21:26,420 --> 01:21:29,423
réfléchir avant
une situation stressante se produit,
1895
01:21:29,456 --> 01:21:30,991
c'est presque toujours le cas
une bonne idée.
1896
01:21:31,024 --> 01:21:32,226
Et l’écrire est utile.
1897
01:21:32,259 --> 01:21:34,128
-Être préparé est utile.
-Ouais.
1898
01:21:34,962 --> 01:21:36,397
(soupir) Tu...
1899
01:21:36,430 --> 01:21:39,233
Ce serait impossible
pour que je m'assoie en face de toi
1900
01:21:39,266 --> 01:21:41,669
et-et je te demande de me promettre
que ça va bien se passer ?
1901
01:21:41,703 --> 01:21:43,504
C'est impossible.
1902
01:21:44,104 --> 01:21:46,173
Il n'y a pas de réponses faciles,
malheureusement.
1903
01:21:46,206 --> 01:21:48,442
Euh, parce que c'est tel
une technologie de pointe,
1904
01:21:48,475 --> 01:21:50,244
euh, il y a encore
beaucoup d'inconnues.
1905
01:21:50,277 --> 01:21:52,714
Et je pense que
ça-ça doit être,
1906
01:21:52,747 --> 01:21:55,416
euh, euh, tu sais, j'ai compris
1907
01:21:55,449 --> 01:21:59,554
et-et donc la nécessité
pour, euh, euh, une certaine prudence.
1908
01:21:59,587 --> 01:22:01,288
Je me réveille, tu sais, tous les jours,
1909
01:22:01,321 --> 01:22:04,024
c'est le, c'est le
la première chose à laquelle je pense.
1910
01:22:04,057 --> 01:22:05,459
Maintenant, écoute, je suis humain,
1911
01:22:05,492 --> 01:22:08,596
et, tu sais, il y a des choses
chaque décision a été parfaite ?
1912
01:22:08,630 --> 01:22:12,166
Puis-je même dire mes motivations
étaient toujours parfaitement clairs ?
1913
01:22:12,199 --> 01:22:14,101
Bien sûr que non.
Personne ne peut dire ça.
1914
01:22:14,134 --> 01:22:17,004
Genre, c'est-c'est
mais pas, tu sais...
1915
01:22:17,037 --> 01:22:19,173
c'est-ce n'est tout simplement pas
comment les gens travaillent.
1916
01:22:19,206 --> 01:22:21,408
L'histoire des sciences
ça a tendance à être ça,
1917
01:22:21,442 --> 01:22:23,745
pour le meilleur ou pour le pire,
si quelque chose est possible à faire...
1918
01:22:23,778 --> 01:22:27,414
et nous savons maintenant que l'IA est possible
faire... l'humanité le fait.
1919
01:22:27,448 --> 01:22:30,217
Tout cela
ça allait arriver.
1920
01:22:30,250 --> 01:22:32,587
Ce-ce train
ça ne va pas s'arrêter.
1921
01:22:32,620 --> 01:22:34,722
Tu ne peux pas passer devant
le train et l'arrêter.
1922
01:22:34,756 --> 01:22:36,724
Tu vas juste être écrasé.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN :
Je veux dire, c'est très stressant.
1924
01:22:40,194 --> 01:22:41,462
Tu sais, il y a, genre,
1925
01:22:41,495 --> 01:22:43,197
beaucoup de choses
beaucoup d'entre nous ne le savent pas.
1926
01:22:43,230 --> 01:22:47,000
je pense que l'histoire
de la découverte scientifique est
1927
01:22:47,034 --> 01:22:48,736
celui de ne pas savoir
ce que tu ne sais pas
1928
01:22:48,770 --> 01:22:50,204
et comprendre au fur et à mesure.
1929
01:22:50,237 --> 01:22:53,575
Euh, mais oui, c'est un...
1930
01:22:53,608 --> 01:22:55,976
c'est une façon de vivre stressante.
1931
01:22:56,811 --> 01:22:59,246
DANIEL : C’est vrai. Sam, merci
beaucoup pour avoir fait cela.
1932
01:22:59,279 --> 01:23:01,081
-Et encore, mazel tov.
-Merci. Et à vous.
1933
01:23:01,114 --> 01:23:03,383
Merci beaucoup. Merci les gars.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(soupir)
1936
01:23:11,593 --> 01:23:13,528
(crépitement d'électricité)
1937
01:23:13,561 --> 01:23:16,363
-(des craquements de tonnerre)
-(soufflé, grognant)
1938
01:23:43,190 --> 01:23:45,392
-(Clics du magnétoscope)
-(ligne qui sonne)
1939
01:23:48,328 --> 01:23:49,797
-(clics sur la ligne)
-KEVIN ROHER : Bonjour.
1940
01:23:49,831 --> 01:23:51,131
DANIEL :
Hé, papa, comment vas-tu ?
1941
01:23:51,164 --> 01:23:52,165
KÉVIN :
Bien. Comment vas-tu ?
1942
01:23:52,199 --> 01:23:53,500
Tu travailles ? Que fais-tu ?
1943
01:23:53,535 --> 01:23:55,770
DANIEL :
Je travaille sur ce film sur l'IA.
1944
01:23:55,803 --> 01:23:58,305
KÉVIN :
Et comment ça va ?
1945
01:23:58,338 --> 01:24:00,708
DANIEL :
Tu sais, c'est... c'est vraiment...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER : Salut, chérie.
-DANIEL : Salut, maman.
1947
01:24:02,577 --> 01:24:04,344
JOANNE : Alors, qu'est-ce que c'est
la prémisse du film ?
1948
01:24:04,378 --> 01:24:07,180
Est-ce un documentaire ?
Kev, n'utilise plus d'épices.
1949
01:24:07,214 --> 01:24:08,816
C'est déjà trop épicé.
1950
01:24:08,850 --> 01:24:10,718
Nous préparons du poulet en ce moment.
1951
01:24:10,752 --> 01:24:13,186
-C'est un documentaire ou quoi...
-DANIEL : Il s'agit de--
1952
01:24:13,220 --> 01:24:14,421
le film parle
la fin du monde.
1953
01:24:14,454 --> 01:24:16,290
La fin du monde approche,
1954
01:24:16,323 --> 01:24:18,158
et nous faisons un film
à propos de la fin du monde.
1955
01:24:18,191 --> 01:24:20,327
-JOANNE : Vraiment ?
-DANIEL : Ouais.
1956
01:24:20,360 --> 01:24:22,162
KEVIN : Un peu déprimant
un film, on dirait.
1957
01:24:22,195 --> 01:24:23,698
JEANNE :
Ouais.
1958
01:24:23,731 --> 01:24:29,436
DANIEL : Je me sens beaucoup
J'aime... cette anxiété très aiguë.
1959
01:24:29,469 --> 01:24:31,673
JOANNE : C'est tellement effrayant,
mais il doit y avoir--
1960
01:24:31,706 --> 01:24:35,810
vous savez, avez-vous rencontré
des gens super intelligents
1961
01:24:35,843 --> 01:24:38,312
qui vous donnent des réponses ?
1962
01:24:38,345 --> 01:24:40,113
DANIEL : C'est ce que c'est
c'est frustrant.
1963
01:24:40,147 --> 01:24:41,683
Personne ne le sait.
1964
01:24:41,716 --> 01:24:44,384
JEANNE :
Tout ce que je peux dire, c'est que
1965
01:24:44,418 --> 01:24:50,190
chaque génération a eu
quelque chose d'effrayant comme ça.
1966
01:24:50,223 --> 01:24:52,760
KEVIN : Quand je suis né, c'était
la crise des missiles de Cuba.
1967
01:24:52,794 --> 01:24:54,596
(battement de coeur régulier)
1968
01:24:54,629 --> 01:24:56,864
J'avais juste peur là-bas
ça allait être une guerre nucléaire.
1969
01:24:56,898 --> 01:24:58,298
JEANNE :
Ouais, mais nous ne le savions pas
1970
01:24:58,332 --> 01:24:59,534
ce qu'ils allaient faire et...
1971
01:24:59,567 --> 01:25:01,168
KÉVIN :
Et le monde n'a pas pris fin.
1972
01:25:01,201 --> 01:25:02,202
Tout le monde s'est réveillé
le lendemain matin,
1973
01:25:02,235 --> 01:25:03,871
et nous faisons toujours notre travail.
1974
01:25:03,905 --> 01:25:05,439
DANIEL :
J'ai très peur,
1975
01:25:05,472 --> 01:25:07,407
surtout dans
le contexte de, comme,
1976
01:25:07,441 --> 01:25:09,577
-tu sais, le bébé et...
-(battement cardiaque fœtal pulsé)
1977
01:25:09,611 --> 01:25:11,178
KÉVIN :
Ça va être une courbe d'apprentissage.
1978
01:25:11,211 --> 01:25:12,479
JEANNE :
Tout ira bien.
1979
01:25:12,513 --> 01:25:13,681
KEVIN : Tu ne peux pas,
tu ne peux pas y penser
1980
01:25:13,715 --> 01:25:14,849
ce que vous ne pouvez pas contrôler, Daniel.
1981
01:25:14,882 --> 01:25:16,551
N'oubliez pas cela.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (voix brisée) :
Je me sens vraiment, je me sens vraiment
1983
01:25:18,285 --> 01:25:19,587
nerveux et effrayé à ce sujet.
1984
01:25:19,621 --> 01:25:21,488
Il y a tellement de choses
que je ne peux pas contrôler.
1985
01:25:21,522 --> 01:25:24,358
KEVIN : Ne sois pas nerveux.
Vous ne pouvez pas laisser cela vous atteindre.
1986
01:25:24,391 --> 01:25:26,794
Vous ne pouvez contrôler que
ce que vous pouvez contrôler,
1987
01:25:26,828 --> 01:25:28,395
et c'est tout ce que vous pouvez faire.
1988
01:25:28,428 --> 01:25:31,231
Vous ne pouvez pas faire plus que cela.
1989
01:25:31,264 --> 01:25:33,433
Écrivez cela dans votre livre.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(battement de coeur fœtal pulsé)
1992
01:25:47,481 --> 01:25:49,651
(hurlant)
1993
01:25:49,684 --> 01:25:52,219
CAROLINE :
Quand vous regardez en arrière,
1994
01:25:52,252 --> 01:25:54,922
le monde se termine toujours.
1995
01:25:54,956 --> 01:25:57,357
Et quand vous regardez vers l'avenir,
1996
01:25:57,391 --> 01:25:59,627
le monde se termine toujours.
1997
01:25:59,661 --> 01:26:02,429
...en feu.
Une maison est déjà en feu...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE : Mais le monde
commence toujours aussi.
1999
01:26:08,402 --> 01:26:10,437
DANIEL :
Êtes-vous prêt ?
2000
01:26:10,470 --> 01:26:12,674
Êtes-vous vraiment prêt ?
2001
01:26:16,443 --> 01:26:18,278
DANIEL : Tu veux conduire
ou tu veux que je conduise ?
2002
01:26:18,311 --> 01:26:19,547
CAROLINE :
Vous conduisez.
2003
01:26:20,815 --> 01:26:22,382
-(la femme parle indistinctement)
-CAROLINE : D'accord.
2004
01:26:22,416 --> 01:26:24,284
DANIEL :
Merci, Marie.
2005
01:26:24,317 --> 01:26:26,654
FEMME : Ça va juste
j'ai vraiment des crampes.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE : D'accord.
-FEMME : Tu es prête ?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE : Oui.
-(bavardage indistinct)
2008
01:26:29,724 --> 01:26:30,958
(Caroline soupire lourdement)
2009
01:26:30,992 --> 01:26:33,326
FEMME : Vous pourriez être dans un
un drame médical avec tout ça...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-(crépitements statiques)
-(bavardage indistinct)
2012
01:26:49,610 --> 01:26:51,746
FEMME :
...un peu de pression.
2013
01:26:53,313 --> 01:26:54,749
Détendez-vous.
2014
01:26:57,451 --> 01:26:59,821
-(bébé qui pleure)
-(l'appareil émet un bip)
2015
01:27:02,623 --> 01:27:05,626
DANIEL :
Salut, mon pote. Ooh.
2016
01:27:05,660 --> 01:27:06,961
Salut, mon pote.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KÉVIN :
Ça va être un tout nouveau monde
2019
01:27:34,354 --> 01:27:35,723
pour toi, Daniel.
2020
01:27:37,658 --> 01:27:40,762
Et je pense que tu le seras
un père extraordinaire.
2021
01:27:41,863 --> 01:27:44,899
JOANNE (rires):
C'est sûr.
2022
01:27:44,932 --> 01:27:47,068
-(Kevin pleure)
-Oh.
2023
01:27:47,101 --> 01:27:49,302
(les pleurs continuent)
2024
01:27:49,336 --> 01:27:51,572
KÉVIN :
Vous allez faire un excellent travail.
2025
01:27:52,206 --> 01:27:53,541
JEANNE :
Kev, pourquoi pleures-tu ?
2026
01:27:53,574 --> 01:27:55,076
KÉVIN :
Je pleure parce que...
2027
01:27:55,109 --> 01:27:57,545
Je ne sais pas. Je ne le fais tout simplement pas...
2028
01:27:57,578 --> 01:27:59,914
DANIEL : Papa, tu vas
faites-moi pleurer aussi.
2029
01:27:59,947 --> 01:28:01,549
Pourquoi pleures-tu ?
2030
01:28:03,651 --> 01:28:05,853
KEVIN : Je le sais juste
tu vas être un père extraordinaire.
2031
01:28:05,887 --> 01:28:07,655
DANIEL (pleurant) :
Je vais seulement être un père formidable
2032
01:28:07,688 --> 01:28:09,957
Parce que j'avais un père formidable.
2033
01:28:09,991 --> 01:28:12,894
KEVIN : Je deviens ému,
c'est tout.
2034
01:28:12,927 --> 01:28:14,327
JEANNE :
Oh.
2035
01:28:14,361 --> 01:28:15,462
(bavardage ludique en vidéo)
2036
01:28:15,495 --> 01:28:17,064
(en vidéo) :
Garçon, oh, garçon !
2037
01:28:17,098 --> 01:28:18,633
Mon Dieu !
2038
01:28:19,267 --> 01:28:21,035
Regardez ces petits effrontés.
2039
01:28:21,068 --> 01:28:25,573
Regardez ces petits effrontés.
Regardez ces petits effrontés.
2040
01:28:25,606 --> 01:28:26,741
Ouais.
2041
01:28:26,774 --> 01:28:29,376
DANIEL :
Je sais comment terminer ce film.
2042
01:28:30,011 --> 01:28:31,712
Bébés.
2043
01:28:32,379 --> 01:28:35,883
-La fin du film parle de
bébés. - (bavardage sur des vidéos)
2044
01:28:35,917 --> 01:28:37,618
Ils affirment la vie.
2045
01:28:37,652 --> 01:28:39,486
Ils sont épuisants.
2046
01:28:39,520 --> 01:28:41,421
-(bébé rit)
-Ils sont hilarants.
2047
01:28:41,454 --> 01:28:42,957
Et ils en valent la peine.
2048
01:28:42,990 --> 01:28:46,828
Ce film ne parle pas de
fonctionnement interne d'une technologie.
2049
01:28:46,861 --> 01:28:48,696
Il ne s'agit pas de
les PDG milliardaires.
2050
01:28:48,729 --> 01:28:50,665
Il ne s'agit pas de géopolitique.
2051
01:28:50,698 --> 01:28:53,935
Il ne s'agit pas du terrifiant
l'avenir ou la fin du monde,
2052
01:28:53,968 --> 01:28:56,137
parce que mon monde
ne fait que commencer.
2053
01:28:56,170 --> 01:28:57,972
Je construis un berceau.
2054
01:28:58,005 --> 01:28:59,907
Ici, maintenant.
2055
01:28:59,941 --> 01:29:01,008
(bébé roucoule)
2056
01:29:01,042 --> 01:29:02,743
L'IA va tout changer
2057
01:29:02,777 --> 01:29:05,913
de manière trop puissante et
complexe à comprendre pour nous.
2058
01:29:05,947 --> 01:29:09,717
Et l'avenir n'existe pas
à chacun d'entre nous de décider.
2059
01:29:10,818 --> 01:29:13,921
Mais ce que je peux décider, c'est d'être
le meilleur mari possible
2060
01:29:13,955 --> 01:29:17,992
pour ma femme et le meilleur
Papa possible pour mon fils.
2061
01:29:18,025 --> 01:29:21,796
Alors, si notre avenir en matière d'IA est
une dystopie cauchemardesque
2062
01:29:21,829 --> 01:29:24,098
ou l'utopie
dont nous rêvons tous,
2063
01:29:24,131 --> 01:29:27,134
Je le saurai au moins
que j'ai fait tout ce que je pouvais
2064
01:29:27,168 --> 01:29:30,605
pour guider ma famille
à travers cette révolution de l'IA.
2065
01:29:30,638 --> 01:29:34,474
Et quoi qu'il arrive,
nous y ferons face ensemble.
2066
01:29:34,508 --> 01:29:35,877
(une musique exaltante gonfle)
2067
01:29:35,910 --> 01:29:37,444
(la musique s'arrête brusquement)
2068
01:29:37,477 --> 01:29:40,047
DANIEL :
Ce n'est donc que notre première idée.
2069
01:29:40,715 --> 01:29:43,084
Qu’est-ce que ça fait ?
Est-ce que vous ressentez cela ?
2070
01:29:43,117 --> 01:29:45,720
Attends, je... genre, ce n'est pas...
c'est une blague.
2071
01:29:45,753 --> 01:29:48,388
Ce n'est pas en fait
comment tu vas y mettre fin.
2072
01:29:50,591 --> 01:29:53,160
Je veux dire, c'est juste une idée. D'accord?
2073
01:29:53,194 --> 01:29:54,996
Non, Daniel.
2074
01:29:55,029 --> 01:29:56,631
... euh, très, très stupide.
2075
01:29:56,664 --> 01:29:59,166
Tu viens de dépenser, pas moi
je sais combien d'années
2076
01:29:59,200 --> 01:30:03,104
de notre vie à travailler là-dessus,
parler à tous les grands experts
2077
01:30:03,137 --> 01:30:05,539
sur la planète à ce sujet,
2078
01:30:05,573 --> 01:30:08,175
et tu vas y mettre fin
2079
01:30:08,209 --> 01:30:11,444
avec certains, comme,
conneries de Kumbaya ?
2080
01:30:11,478 --> 01:30:14,048
Il y a un astéroïde
se dirigea vers la Terre.
2081
01:30:14,081 --> 01:30:15,917
Que fais-tu? Juste...
2082
01:30:15,950 --> 01:30:18,152
se tenir la main
et j'espère que ça marchera, d'accord ?
2083
01:30:18,185 --> 01:30:19,854
Absolument pas.
2084
01:30:19,887 --> 01:30:22,924
Nous devons... c'est ha...
ça doit être...
2085
01:30:22,957 --> 01:30:25,026
La fin doit...
2086
01:30:26,493 --> 01:30:28,529
CAROLINE :
D'accord, première chose :
2087
01:30:28,562 --> 01:30:32,033
L'IA est là,
et il est là pour rester.
2088
01:30:32,066 --> 01:30:33,534
La merde est hors du cheval,
2089
01:30:33,567 --> 01:30:36,436
mais le cheval l'est
je vais continuer à chier.
2090
01:30:38,873 --> 01:30:39,807
(la foule applaudit)
2091
01:30:39,840 --> 01:30:41,943
Vous savez, l'un des éléments de base
les lois de l'histoire
2092
01:30:41,976 --> 01:30:44,578
est-ce que ce n'est rien
j'ai vraiment un début
2093
01:30:44,612 --> 01:30:46,580
et rien n'a de fin.
2094
01:30:46,614 --> 01:30:48,049
Cela continue.
2095
01:30:48,082 --> 01:30:50,918
L’IA est loin
son plein développement.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE : Même si
la bulle actuelle de l'IA éclate,
2097
01:30:53,120 --> 01:30:54,956
-les humains ne s'arrêteront jamais
-(le bruiteur souffle)
2098
01:30:54,989 --> 01:30:57,959
construire toujours plus
une technologie puissante.
2099
01:30:57,992 --> 01:30:59,827
HAO :
Vous pouvez choisir de ne pas utiliser l'IA
2100
01:30:59,860 --> 01:31:02,730
ou y participer, mais c'est
ça va vous affecter de toute façon.
2101
01:31:02,763 --> 01:31:04,231
DANIEL : D’accord, fantastique.
Donc nous sommes foutus.
2102
01:31:04,265 --> 01:31:07,568
CAROLINE : Non, nous ne le sommes pas
à cause d'une chose simple.
2103
01:31:11,572 --> 01:31:13,574
Ce n’est pas une fatalité.
2104
01:31:13,607 --> 01:31:15,576
Si seulement nous pouvions le voir
clairement ensemble,
2105
01:31:15,609 --> 01:31:18,813
la réponse évidente sera
choisir quelque chose de différent.
2106
01:31:18,846 --> 01:31:21,615
Nous devons très clairement
changer le jeu
2107
01:31:21,649 --> 01:31:23,517
d'une course vers le bas
dans une course vers le sommet.
2108
01:31:23,551 --> 01:31:27,855
LEAHY : Le problème que nous devons résoudre
la résolution n’est pas spécifiquement l’IA.
2109
01:31:27,888 --> 01:31:31,726
C'est la question générale
de comment construire une société
2110
01:31:31,759 --> 01:31:34,528
qui peut traiter
technologie puissante.
2111
01:31:34,562 --> 01:31:35,830
Parce que nous allons obtenir
2112
01:31:35,863 --> 01:31:37,264
seulement de plus en plus puissant
technologie.
2113
01:31:37,298 --> 01:31:40,034
CAROLINE :
Nous devons améliorer notre société,
2114
01:31:40,067 --> 01:31:41,902
et la première étape est
se réunir
2115
01:31:41,936 --> 01:31:43,838
-et exigeant...
-TOUS : Coordination.
2116
01:31:43,871 --> 01:31:47,608
Une certaine forme de coopération internationale
coopération ou accord sur
2117
01:31:47,641 --> 01:31:48,909
quelles devraient être les normes.
2118
01:31:48,943 --> 01:31:50,544
Vous savez, comment devrait
ils seront déployés...
2119
01:31:50,578 --> 01:31:52,146
Genre, réel
diplomatie internationale
2120
01:31:52,179 --> 01:31:53,781
parmi les superpuissances.
2121
01:31:53,814 --> 01:31:56,784
Les Chinois sont tout aussi inquiets
à ce sujet comme les Américains.
2122
01:31:56,817 --> 01:31:58,085
Je pense que c'est difficile,
tu sais,
2123
01:31:58,119 --> 01:31:59,920
dans le courant
le climat géopolitique,
2124
01:31:59,954 --> 01:32:01,756
-mais je pense que c'est nécessaire.
-RASKIN : Absolument.
2125
01:32:01,789 --> 01:32:05,059
De la même manière que
la dernière fois que l'humanité
2126
01:32:05,092 --> 01:32:09,163
développé une technologie
c'est dangereux...
2127
01:32:09,830 --> 01:32:12,900
...qui nécessitait un travail complet,
changement sans précédent
2128
01:32:12,933 --> 01:32:15,169
à la structure de notre monde.
2129
01:32:15,770 --> 01:32:18,172
CAROLINE :
Nous devons donc terminer cela,
2130
01:32:18,205 --> 01:32:20,307
à nouveau un changement sans précédent.
2131
01:32:21,008 --> 01:32:24,678
Tu sais, nous parlons aux gens
qui travaillent dans ces sociétés d'IA,
2132
01:32:24,712 --> 01:32:25,846
et ils disent qu'ils veulent faire
quelque chose de différent,
2133
01:32:25,880 --> 01:32:27,048
mais ils ont besoin de la pression du public.
2134
01:32:27,081 --> 01:32:28,716
Ils ont besoin du gouvernement
faire quelque chose.
2135
01:32:28,749 --> 01:32:30,217
Alors on va à DC,
et ils disent,
2136
01:32:30,251 --> 01:32:32,153
"Eh bien, nous avons besoin de la Silicon Valley
faire quelque chose de différent.
2137
01:32:32,186 --> 01:32:34,021
Ce sont eux qui vont
inventez les garde-corps.
2138
01:32:34,055 --> 01:32:36,057
Et donc tout le monde pointe du doigt
le doigt sur quelqu'un d'autre,
2139
01:32:36,090 --> 01:32:39,927
et ce sur quoi ils sont d'accord, c'est
que nous avons besoin de la pression du public
2140
01:32:39,960 --> 01:32:41,796
pour autre chose
arriver.
2141
01:32:41,829 --> 01:32:43,164
Et c'est ce que tu
2142
01:32:43,197 --> 01:32:44,799
et tout le monde
regarder ce film peut faire.
2143
01:32:44,832 --> 01:32:45,833
CAROLINE :
Nous devons retenir les dirigeants
2144
01:32:45,866 --> 01:32:47,334
dans nos gouvernements
2145
01:32:47,368 --> 01:32:48,969
et les dirigeants de
ces entreprises sont responsables.
2146
01:32:49,003 --> 01:32:51,639
BOÉRÉE :
Quel que soit le pays dans lequel vous vous trouvez,
2147
01:32:51,672 --> 01:32:53,340
faites-leur savoir
que tu n'es pas content
2148
01:32:53,374 --> 01:32:54,975
avec le statu quo actuel.
2149
01:32:55,009 --> 01:32:57,678
Alors oui, c'est ennuyeux à dire
appelez votre membre du Congrès.
2150
01:32:57,711 --> 01:32:59,880
Je ne dis pas que tu devrais
fais juste ça, mais, genre,
2151
01:32:59,914 --> 01:33:01,215
nous devons le faire.
2152
01:33:01,248 --> 01:33:02,883
Genre, nous devons obtenir
le gouvernement impliqué.
2153
01:33:02,917 --> 01:33:04,185
DANIEL : Donc nous avons juste
appelle-les et dis-leur,
2154
01:33:04,218 --> 01:33:06,253
"Hé, arrête Big Tech
de ruiner le monde" ?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE : Non, mais il y a
des tonnes de choses vraiment évidentes,
2156
01:33:09,256 --> 01:33:11,225
des choses simples
nous pouvons être exigeants.
2157
01:33:11,258 --> 01:33:12,960
Nous avons besoin de transparence.
2158
01:33:12,993 --> 01:33:14,795
Nous devons mettre fin au secret
qui existe à l'intérieur de ces laboratoires,
2159
01:33:14,829 --> 01:33:17,031
parce qu'ils construisent
une technologie puissante,
2160
01:33:17,064 --> 01:33:19,066
et le public mérite de savoir
que se passe-t-il.
2161
01:33:19,100 --> 01:33:21,068
En fin de compte,
nous aurons besoin d'indépendants,
2162
01:33:21,102 --> 01:33:23,637
des tiers objectifs
pour évaluer les systèmes.
2163
01:33:23,671 --> 01:33:27,274
On ne peut pas compter sur les entreprises
pour noter leurs propres devoirs.
2164
01:33:27,308 --> 01:33:31,378
Si-si une entreprise utilise l'IA et-et
l'IA interagit-elle avec vous,
2165
01:33:31,412 --> 01:33:35,249
il devrait révéler que vous êtes
interagir avec un système d’IA.
2166
01:33:35,282 --> 01:33:39,019
Ouais. Et-et aussi nous avons besoin
un système qui rend les entreprises
2167
01:33:39,053 --> 01:33:42,156
légalement responsable de
Systèmes d’IA qu’ils produisent.
2168
01:33:42,189 --> 01:33:46,293
Nous devons nous assurer qu'il y a
sont des tests et des normes de sécurité
2169
01:33:46,327 --> 01:33:48,662
qui s'appliquent à tous.
2170
01:33:48,696 --> 01:33:50,097
Nous avons besoin de règles de base,
2171
01:33:50,131 --> 01:33:51,999
et nous devons continuer à nous adapter
ces règles
2172
01:33:52,032 --> 01:33:55,002
à la vitesse à laquelle
la technologie évolue.
2173
01:33:55,035 --> 01:33:57,738
LEAHY : Il y a actuellement
plus de réglementation
2174
01:33:57,771 --> 01:33:59,840
sur la vente d'un sandwich
au public
2175
01:33:59,874 --> 01:34:03,410
qu'il n'y en a sur la construction
AGI potentiellement de fin mondiale.
2176
01:34:03,444 --> 01:34:05,279
CAROLINE :
Et la dernière chose est
2177
01:34:05,312 --> 01:34:07,214
pour nous améliorer.
2178
01:34:07,915 --> 01:34:10,284
Ce n'est pas le travail
de l'équipe de sécurité
2179
01:34:10,317 --> 01:34:12,153
dans un laboratoire donné, ou le PDG.
2180
01:34:12,186 --> 01:34:13,854
Donc, genre, c'est
le travail de chacun.
2181
01:34:13,888 --> 01:34:15,156
Ne le laisse pas
aux experts en IA.
2182
01:34:15,189 --> 01:34:17,424
Genre, (bip) ça.
Genre, c'est le moment
2183
01:34:17,458 --> 01:34:19,460
que nous sommes en transition
de, comme,
2184
01:34:19,493 --> 01:34:22,163
puissance cognitive principalement humaine
à, comme, le pouvoir cognitif de l'IA,
2185
01:34:22,196 --> 01:34:23,197
et ça touche tout le monde,
2186
01:34:23,230 --> 01:34:25,166
et je veux que les gens soient
participer à cette conversation.
2187
01:34:25,199 --> 01:34:27,234
Et je dirais, si tu penses
que l'IA va tous nous tuer,
2188
01:34:27,268 --> 01:34:28,969
tu devrais travailler
dans la recherche en IA
2189
01:34:29,003 --> 01:34:30,804
pour être sûr que ce n'est pas le cas,
parce que tu as
2190
01:34:30,838 --> 01:34:32,773
une énorme quantité d’agence.
2191
01:34:32,806 --> 01:34:34,208
CAROLINE :
Qui que vous soyez,
2192
01:34:34,241 --> 01:34:36,177
vous êtes un expert
dans votre propre secteur,
2193
01:34:36,210 --> 01:34:39,413
dans votre propre école,
dans votre propre famille,
2194
01:34:39,446 --> 01:34:43,050
et c'est à vous de décider
comment l'IA est utilisée dans votre vie.
2195
01:34:43,083 --> 01:34:45,319
Que vous souhaitiez rejoindre
votre commission scolaire
2196
01:34:45,352 --> 01:34:48,389
ou-ou si tu veux demander
votre employeur
2197
01:34:48,422 --> 01:34:49,924
comment ils utilisent
technologies d'IA,
2198
01:34:49,957 --> 01:34:52,259
comme si nous pouvions tous faire le travail.
2199
01:34:52,293 --> 01:34:56,330
De nombreux syndicats ont été
assez efficace pour, comme,
2200
01:34:56,363 --> 01:34:59,333
déterminer comment ils veulent
pour interagir avec ces systèmes.
2201
01:34:59,366 --> 01:35:02,303
-Syndicats d'infirmières, syndicats d'enseignants.
-(chant indistinct)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI : J'adorerais
si les parents partout
2203
01:35:05,072 --> 01:35:06,407
je suis allé voir les sociétés d'IA
et dit,
2204
01:35:06,440 --> 01:35:08,342
"Comment peux-tu être meilleur
à ce sujet ?" Y compris nous.
2205
01:35:08,375 --> 01:35:11,445
J'ai donc fondé Encode Justice
quand j'avais 15 ans.
2206
01:35:11,478 --> 01:35:15,082
Nous sommes les premiers au monde
et la plus grande armée de jeunes
2207
01:35:15,115 --> 01:35:18,452
se battre pour une approche centrée sur l'humain
intelligence artificielle.
2208
01:35:18,485 --> 01:35:21,288
Peu importe qui tu es,
même les plus petits gestes aident,
2209
01:35:21,322 --> 01:35:24,291
et même une conversation commence
est vraiment très précieux.
2210
01:35:24,325 --> 01:35:26,293
DANIEL :
Donc mon travail pourrait être, genre,
2211
01:35:26,327 --> 01:35:28,295
parlez-en à Bubby Lila
au dîner ?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE : Honnêtement, ouais,
Cela en fait partie.
2213
01:35:30,397 --> 01:35:32,099
Et nous allons devoir faire
2214
01:35:32,132 --> 01:35:34,969
beaucoup de choses qui
nous n'y avons même pas encore pensé.
2215
01:35:35,002 --> 01:35:36,503
Les gens vont regarder
tout ce que nous avons décrit
2216
01:35:36,538 --> 01:35:37,838
et dites: "Ce n'est pas suffisant."
2217
01:35:37,871 --> 01:35:39,473
Ce qui compte c'est que les forces
2218
01:35:39,507 --> 01:35:41,242
qui fonctionnent
vers des solutions
2219
01:35:41,275 --> 01:35:44,979
commencer à dépasser les forces qui
travaillent contre des solutions.
2220
01:35:45,012 --> 01:35:46,947
Rendre le monde meilleur
a toujours été difficile.
2221
01:35:46,981 --> 01:35:48,249
Cela n'a jamais été facile.
2222
01:35:48,282 --> 01:35:50,317
Genre, il y a eu
plein de choses merdiques
2223
01:35:50,351 --> 01:35:52,286
ce qui s'est produit dans l'histoire,
et nous avons eu...
2224
01:35:52,319 --> 01:35:54,121
genre, les gens ont eu
pour gérer ça,
2225
01:35:54,154 --> 01:35:57,191
et puis ils se sont levés
et je l'ai changé.
2226
01:35:57,224 --> 01:36:00,894
Il y en a un nombre fou
des défis qui nous attendent,
2227
01:36:00,928 --> 01:36:04,398
mais si nous pouvons les dépasser,
2228
01:36:04,431 --> 01:36:08,536
nous pouvons débloquer un avenir au-delà
notre imagination la plus folle.
2229
01:36:08,570 --> 01:36:10,804
CAROLINE :
Nous devons nous rassembler
2230
01:36:10,838 --> 01:36:14,875
et trouvez le chemin entre
la promesse et le péril.
2231
01:36:14,908 --> 01:36:17,177
Nous ne pouvons pas être pessimistes
ou optimistes.
2232
01:36:17,778 --> 01:36:20,180
Nous devons devenir quelque chose de nouveau.
2233
01:36:22,182 --> 01:36:25,185
Un de mes amis m'appelle
un apocaloptimiste.
2234
01:36:25,219 --> 01:36:26,186
"Apocaloptimiste" ?
2235
01:36:26,220 --> 01:36:28,889
Je pense que ça pourrait être
mon nouveau mot préféré.
2236
01:36:28,922 --> 01:36:30,291
-(rires) -HOMME : Peut-être
le nom de ce film.
2237
01:36:30,324 --> 01:36:31,892
-C'est peut-être le nom
de ce film. -(rires)
2238
01:36:31,925 --> 01:36:34,862
-"Apocaloptimiste."
-"Apocaloptimiste."
2239
01:36:34,895 --> 01:36:36,430
Ouais.
2240
01:36:36,463 --> 01:36:37,898
Je ne crois pas au malheur.
2241
01:36:37,931 --> 01:36:39,366
Je crois en l'esprit de la vie,
2242
01:36:39,400 --> 01:36:43,137
euh, et je crois que la vie est
sur la capacité d’agir.
2243
01:36:43,170 --> 01:36:44,905
-(chant de la foule)
-La capacité d'établir des relations,
2244
01:36:44,938 --> 01:36:47,141
la capacité de ressentir.
2245
01:36:49,376 --> 01:36:51,345
-(bavardage de mission indistinct)
-(applaudissements)
2246
01:36:51,378 --> 01:36:54,315
Nous devons doubler la mise
de plus en plus
2247
01:36:54,348 --> 01:36:57,384
sur ces capacités
que nous avons en tant qu'humains
2248
01:36:57,418 --> 01:36:59,853
que les systèmes robotiques
je ne l'aurai jamais fait.
2249
01:37:00,487 --> 01:37:04,559
Il est temps maintenant
prendre ces décisions concernant
2250
01:37:04,592 --> 01:37:08,062
comment le guider et le soutenir
plutôt que de nous diviser.
2251
01:37:08,095 --> 01:37:10,898
DANIEL : On dirait que
élever un enfant.
2252
01:37:10,931 --> 01:37:12,634
Voilà ce qui se passe. Ouais.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE : L'IA a peut-être
plus d'intelligence brute
2254
01:37:15,069 --> 01:37:17,471
-que notre petit cerveau humain,
-(bébé rit)
2255
01:37:17,504 --> 01:37:20,608
mais nous sommes bien plus
que notre intelligence.
2256
01:37:21,208 --> 01:37:25,379
L'intelligence est-est
la capacité de résoudre des problèmes.
2257
01:37:25,412 --> 01:37:29,116
La sagesse est la capacité de savoir
quels problèmes résoudre.
2258
01:37:31,519 --> 01:37:34,188
(bavardage indistinct de l'équipage)
2259
01:37:34,221 --> 01:37:35,489
DANIEL :
Cela peut aller sur votre réfrigérateur.
2260
01:37:35,523 --> 01:37:36,658
(en riant)
2261
01:37:36,691 --> 01:37:38,626
IOUDKOWSKI :
Alors, n'abandonnez pas.
2262
01:37:38,660 --> 01:37:40,227
L'humanité a fait
2263
01:37:40,260 --> 01:37:43,030
des choses plus difficiles que ça
dans son histoire.
2264
01:37:43,897 --> 01:37:46,967
C'est juste difficile à convaincre
les gens qu'ils devraient.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(le son crépite)
2267
01:37:55,309 --> 01:37:57,277
DANIEL : Alors, quand j'ai commencé
faire ce film,
2268
01:37:57,311 --> 01:37:59,012
Je dirais que j'étais, comme,
2269
01:37:59,046 --> 01:38:01,348
en gros, un connard cynique
à propos de tout ça.
2270
01:38:01,382 --> 01:38:03,450
Au cours du parcours
de faire le film,
2271
01:38:03,484 --> 01:38:05,152
J'ai fini par comprendre
ça, genre,
2272
01:38:05,185 --> 01:38:06,987
c'est la seule chose
nous ne pouvons pas l'être.
2273
01:38:07,756 --> 01:38:09,990
...ou autre chose
vous aimeriez discuter ?
2274
01:38:10,023 --> 01:38:11,992
Non, je pense que nous avons couvert beaucoup de choses.
2275
01:38:12,025 --> 01:38:13,561
-Ouais. (rires)
-HOMME : Merci beaucoup.
2276
01:38:13,595 --> 01:38:15,295
Merci.
2277
01:38:15,929 --> 01:38:17,498
DANIEL :
C'est un problème encore plus grave
2278
01:38:17,532 --> 01:38:19,400
que n'importe quelle personne.
2279
01:38:19,433 --> 01:38:22,136
Cela va changer le monde dans
des façons que nous ne comprenons pas.
2280
01:38:22,169 --> 01:38:24,037
Tout cela est vrai.
2281
01:38:24,071 --> 01:38:26,106
-(rires) : D'accord.
-(bavardage indistinct)
2282
01:38:26,140 --> 01:38:28,208
DANIEL :
Mais ce sur quoi nous avons du pouvoir
2283
01:38:28,242 --> 01:38:30,411
C'est ce que nous faisons à ce sujet.
2284
01:38:30,444 --> 01:38:33,113
À mesure que l’IA des frontières se développe
exponentiellement plus performant...
2285
01:38:33,147 --> 01:38:34,682
DANIEL :
Et la réalité
2286
01:38:34,716 --> 01:38:37,151
c'est que si nous décidons
c'est sans espoir,
2287
01:38:37,184 --> 01:38:39,420
alors c'est sans espoir.
2288
01:38:39,453 --> 01:38:41,221
...pour moins stresser
sur la planète Terre...
2289
01:38:41,255 --> 01:38:43,257
DANIEL :
Mais si tu décides
2290
01:38:43,290 --> 01:38:46,293
que vous voulez essayer...
2291
01:38:47,194 --> 01:38:48,563
... alors essayez.
2292
01:38:48,596 --> 01:38:50,931
Et c'est difficile.
2293
01:38:51,733 --> 01:38:53,500
Mais tu sais quoi ?
2294
01:38:53,535 --> 01:38:57,137
Les grandes choses semblent impossibles
avant qu'ils ne se produisent réellement.
2295
01:38:58,673 --> 01:39:01,676
Mais quand ils arrivent enfin,
2296
01:39:01,709 --> 01:39:05,713
c'est parce que des millions de personnes
a entrepris des millions d'actions
2297
01:39:05,747 --> 01:39:08,182
pour les réaliser.
2298
01:39:08,215 --> 01:39:10,752
Et donc...
2299
01:39:10,785 --> 01:39:13,220
nous devons essayer.
2300
01:39:14,087 --> 01:39:15,523
(soupire lourdement)
2301
01:39:21,663 --> 01:39:24,298
Il y a trop de choses en jeu.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(le film crépite)
2304
01:39:37,545 --> 01:39:41,749
Regardez les changements incroyables
nous avons vécu et survécu
2305
01:39:41,783 --> 01:39:43,317
de l'âge de pierre,
2306
01:39:43,350 --> 01:39:46,487
et pourtant des changements encore plus importants
sont encore à venir.
2307
01:39:46,521 --> 01:39:50,090
("Je l'ai perdu en essayant"
par Son Lux en train de jouer)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ Qu'allons-nous faire maintenant ? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Nous l'avons perdu à force d'essayer ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Nous l'avons perdu ♪
2312
01:40:55,723 --> 01:40:57,457
♪ Pour essayer ♪
2313
01:41:00,193 --> 01:41:02,764
♪ Qu'allons-nous faire maintenant ? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Nous l'avons perdu à force d'essayer ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Nous l'avons perdu ♪
2316
01:41:07,635 --> 01:41:09,469
♪ Pour essayer ♪
2317
01:41:12,205 --> 01:41:14,709
♪ Que pouvons-nous dire maintenant ? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Nos bouches ne font que mentir ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Nos bouches ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Seulement mentir ♪
2321
01:41:25,720 --> 01:41:28,255
♪ Que pouvons-nous dire maintenant ? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Nos bouches ne font que mentir ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Nos bouches ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Seulement mentir ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Cédez et sortez ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Nous ressuscitons parmi les mourants ♪
2328
01:42:07,327 --> 01:42:08,763
♪ On se lève ♪
2329
01:42:08,796 --> 01:42:11,164
♪ Chez les mourants ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Cédez et sortez ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Nous ressuscitons parmi les mourants ♪
2332
01:42:19,306 --> 01:42:20,775
♪ On se lève ♪
2333
01:42:20,808 --> 01:42:23,176
♪ Chez les mourants ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Cédez et sortez ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Nous ressuscitons chez les mourants ♪
2336
01:42:31,284 --> 01:42:32,787
♪ On se lève ♪
2337
01:42:32,820 --> 01:42:35,155
♪ Chez les mourants ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Cédez et sortez ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Nous ressuscitons chez les mourants ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Nous ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Oh, oh, oh, oh, oh ♪
2344
01:43:25,873 --> 01:43:27,675
♪ Oh, oh, oh, oh ♪
2345
01:43:27,709 --> 01:43:28,943
♪ Oh, oh ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Oh, oh, oh, oh, oh, oh ♪
2347
01:43:31,946 --> 01:43:33,648
♪ Oh, oh, oh, oh ♪
2348
01:43:33,681 --> 01:43:34,916
♪ Oh, oh ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Oh, oh, oh, oh, oh, oh ♪
2350
01:43:37,585 --> 01:43:40,287
♪ Qu'allons-nous faire maintenant ? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Nous l'avons perdu à force d'essayer ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Nous l'avons perdu ♪
2353
01:43:45,059 --> 01:43:46,861
♪ Pour essayer ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Oh, oh, oh, oh, oh, oh ♪
2355
01:43:49,564 --> 01:43:52,332
♪ Qu'allons-nous faire maintenant ? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Nous l'avons perdu à force d'essayer ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Nous l'avons perdu ♪
2358
01:43:57,071 --> 01:43:58,940
♪ D'essayer. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(la chanson se termine)